Amazon ECS Managed Instances unterstützt jetzt NVIDIA GPU-Metriken
Amazon Elastic Container Service (Amazon ECS) unterstützt ab sofort NVIDIA GPU-Metriken für containerisierte Workloads, die auf Amazon-ECS-Managed-Instances ausgeführt werden. Diese Metriken sind über Amazon CloudWatch Container Insights mit verbesserter Beobachtbarkeit verfügbar, sodass Kunden Einblick in den Zustand und die Leistung der GPU erhalten, um Fehler bei GPU-beschleunigten Workloads auf Amazon ECS zu beheben und Workloads zu optimieren.
Mit den neuen GPU-Metriken können Kunden mit Amazon ECS Managed Instances jetzt GPU-Kapazität, Auslastung, Arbeitsspeicher, Hardwarezustand und thermische Bedingungen direkt in CloudWatch überwachen. Durch die Verwendung von Container Insights mit verbesserter Beobachtbarkeit erhalten Kunden einen detaillierten Einblick in diese Metriken, auch auf GPU-Geräteebene. Die Metriken geben Kunden Einblick in den GPU-Betrieb und den Zustand der Hardware in der gesamten Amazon-ECS-Managed-Instance-Flotte. Sie können die GPU-Kapazität richtig dimensionieren, Leistungsprobleme beheben und Probleme erkennen, bevor sie sich auf GPU-beschleunigte Workloads auswirken, wie KI/ML-Training und Inferenz.
NVIDIA GPU-Metriken für Amazon ECS Managed Instances sind über Container Insights in allen kommerziellen AWS-Regionen verfügbar. Aktivieren Sie zunächst Container Insights mit verbesserter Beobachtbarkeit auf Ihrem Amazon-ECS-Cluster und starten Sie GPU-beschleunigte Amazon-EC2-Instance-Typen über einen Amazon-ECS.Managed.Instance-Kapazitätsanbieter. Die Preise für Container Insights finden Sie auf der Preisseite von Amazon CloudWatch. Weitere Informationen finden Sie im Benutzerhandbuch zu Amazon ECS Container Insights mit verbesserten Beobachtbarkeitsmetriken.