Amazon CloudWatch Container Insights präsentiert GPU-Metriken unter einer Minute für Amazon EKS
Amazon CloudWatch Container Insights unterstützt jetzt die Erfassung von GPU-Metriken bei Frequenzen unter einer Minute für KI- und ML-Workloads, die auf Amazon EKS ausgeführt werden. Kunden können die Metrik-Abtastrate in Sekundenschnelle konfigurieren und so eine detaillierte Überwachung der GPU-Ressourcenauslastung ermöglichen.
Diese Erweiterung ermöglicht es Kunden, GPU-intensive Workloads, die weniger als 60 Sekunden laufen, effektiv zu überwachen, z. B. ML-Inferenzjobs, die GPU-Ressourcen für kurze Zeit verbrauchen. Durch die Erhöhung der Abtastrate können Kunden einen detaillierten Überblick über kurzlebige GPU-Workloads erhalten. GPU-Metriken unter einer Minute werden einmal pro Minute an CloudWatch gesendet. Diese differenzierte Überwachung hilft Kunden, ihre GPU-Ressourcenauslastung zu optimieren, Leistungsprobleme zu beheben und den effizienten Betrieb ihrer containerisierten GPU-Anwendungen sicherzustellen.
GPU-Metriken unter einer Minute in Container Insights sind in allen kommerziellen AWS-Regionen und den AWS GovCloud (USA)-Regionen verfügbar.
Weitere Informationen zu GPU-Metriken unter einer Minute in Container Insights finden Sie auf der Seite mit NVIDIA-GPU-Metriken im Amazon-CloudWatch-Benutzerhandbuch. GPU-Metriken unter einer Minute in Container Insights sind ohne zusätzliche Kosten verfügbar. Die Preise für Container Insights finden Sie auf der Amazon CloudWatch-Preisseite.