Amazon SageMaker HyperPod sekarang mendukung label dan taint Kubernetes kustom
Amazon SageMaker HyperPod sekarang mendukung label dan taint Kubernetes kustom, memungkinkan pelanggan mengontrol penjadwalan pod dan berintegrasi dengan mulus dengan infrastruktur Kubernetes yang ada. Pelanggan yang men-deploy beban kerja AI pada klaster HyperPod yang dilengkapi dengan EKS memerlukan kontrol yang tepat atas penempatan beban kerja untuk mencegah sumber daya GPU yang mahal dikonsumsi oleh pod sistem dan beban kerja non-AI, sambil memastikan kompatibilitas dengan plugin perangkat khusus seperti operator GPU EFA dan NVIDIA. Sebelumnya, pelanggan harus menerapkan label dan taint secara manual menggunakan kubectl dan menerapkannya kembali setelah setiap penggantian simpul, penskalaan, atau operasi patch, menciptakan overhead operasional yang signifikan.
Kemampuan ini memungkinkan Anda mengonfigurasi label dan taint pada tingkat grup instans melalui API CreateCluster dan UpdateCluster, menyediakan pendekatan terkelola untuk menentukan dan memelihara kebijakan penjadwalan di seluruh siklus hidup simpul. Menggunakan parameter KubernetesConfig baru, Anda dapat menentukan hingga 50 label dan 50 taint per grup instans. Label memungkinkan organisasi sumber daya dan penargetan pod melalui pemilih simpul, sementara taint mengusir pod tanpa toleransi yang cocok untuk melindungi simpul khusus. Misalnya, Anda dapat menerapkan taint NoSchedule ke grup instans GPU untuk memastikan hanya tugas pelatihan AI dengan toleransi eksplisit yang menggunakan sumber daya komputasi berbiaya tinggi, atau menambahkan label khusus yang memungkinkan pod plugin perangkat menjadwalkan dengan benar. HyperPod secara otomatis menerapkan konfigurasi ini selama pembuatan simpul dan mempertahankannya di seluruh operasi penggantian, penskalaan, dan patch, menghilangkan intervensi manual dan mengurangi overhead operasional.
Fitur ini tersedia di semua AWS Region di mana Amazon SageMaker HyperPod tersedia. Untuk mempelajari lebih lanjut tentang label dan taint khusus, lihat panduan pengguna.