Wawasan Kontainer Amazon CloudWatch sekarang mendukung Neuron UltraServer di Amazon EKS
Wawasan Kontainer Amazon CloudWatch kini mendukung Neuron UltraServer di Amazon EKS, memberikan observabilitas yang ditingkatkan bagi pelanggan yang menjalankan beban kerja machine learning berskala besar dan berkinerja tinggi pada simpul multi-instans. Kemampuan baru ini memungkinkan ilmuwan data dan engineer ML untuk secara efisien memantau dan memecahkan masalah aplikasi ML kontainer mereka, menawarkan metrik agregat dan manajemen yang disederhanakan di seluruh grup Neuron UltraServer.
Neuron UltraServer menggabungkan beberapa instans EC2 menjadi satu unit server logis, dioptimalkan untuk beban kerja machine learning menggunakan akselerator AWS Trainium dan Inferentia. Container Insights, fitur monitoring dan diagnostik di Amazon CloudWatch, secara otomatis mengumpulkan metrik dari aplikasi kontainer. Dengan peluncuran ini, Container Insights memperkenalkan filter baru khusus untuk UltraServer di lingkungan EKS. Anda sekarang dapat memilih ID UltraServer untuk melihat metrik agregat baru di semua instans dalam server tersebut, menggantikan kebutuhan untuk memantau instans individual secara terpisah. Selain metrik per instans, Anda sekarang dapat melihat data kinerja konsolidasi untuk seluruh grup UltraServer, menyederhanakan monitoring beban kerja ML yang berjalan di AWS Neuron.
Wawasan Kontainer Amazon CloudWatch tersedia di semua AWS Region komersial, dan AWS GovCloud (AS).
Untuk memulai, lihat metrik AWS Neuron untuk AWS Trainium dan AWS Inferentia di Panduan Pengguna Amazon CloudWatch