Amazon SageMaker HyperPod kini mendukung penentuan versi AMI dan patching otomatis
Amazon SageMaker HyperPod kini memberi Anda visibilitas ke dalam versi Amazon Machine Image (AMI) yang berjalan di seluruh klaster Anda dan secara otomatis menerapkan patch keamanan tanpa mengganggu beban kerja Anda. SageMaker HyperPod adalah infrastruktur yang dirancang khusus untuk melatih dan menerapkan model dasar dalam skala besar. Sebelumnya, administrator klaster memiliki wawasan terbatas tentang versi AMI mana yang sedang berjalan, sehingga menyulitkan deteksi penyimpangan dan membuat patching keamanan menjadi proses manual dan reaktif yang sulit dijalankan pada tugas pelatihan yang panjang dan berhari-hari, serta berisiko mengubah perangkat lunak yang terbundel dalam AMI seperti driver NVIDIA atau CUDA. Kemampuan baru pada HyperPod ini membantu Anda menjaga keamanan dan konsistensi klaster sekaligus menghilangkan beban operasional dari patching manual.
Dengan penentuan versi AMI, Anda dapat melihat versi AMI yang tepat pada setiap grup instans dan simpul dalam format penentuan versi semantik (major.minor.patch), mendeteksi pergeseran versi dengan cepat, dan mengembalikan ke versi sebelumnya—termasuk driver NVIDIA sebelumnya, CUDA, dan tumpukan perangkat lunak lainnya—menggunakan API UpdateClusterSoftware. Patching otomatis adalah kemampuan opsional per grup instans yang hanya menerapkan patch keamanan yang kompatibel ke belakang saat simpul menjadi tidak aktif, sehingga beban kerja yang sedang berjalan tetap tidak terganggu dan paket AI/ML penting seperti driver NVIDIA, versi CUDA, dan kernel sistem operasi tidak pernah ditingkatkan ke versi utama atau minor yang berbeda; Anda dapat mengaktifkannya melalui API CreateCluster atau UpdateCluster. Kebijakan dukungan AMI yang baru juga menerbitkan jadwal dukungan untuk berbagai versi AMI, setelah itu HyperPod berhenti menerbitkan patch keamanan.
Baik penentuan versi AMI maupun patching otomatis tersedia untuk klaster HyperPod yang diatur oleh Amazon EKS, di semua AWS Region tempat SageMaker HyperPod didukung. Untuk mempelajari lebih lanjut, lihat dokumentasi manajemen HyperPod AMI dan kebijakan dukungan HyperPod AMI yang baru.