Amazon SageMaker HyperPod kini mendukung pemeriksaan kondisi mendalam untuk klaster Slurm dengan penyediaan berkelanjutan
Amazon SageMaker HyperPod kini mendukung pemeriksaan kondisi mendalam untuk klaster yang diatur oleh Slurm yang dibuat dengan penyediaan berkelanjutan, memungkinkan Anda untuk secara proaktif memverifikasi kesehatan akselerator GPU pada instans yang sedang berjalan kapan saja. Penyediaan berkelanjutan memungkinkan Anda memulai pelatihan dengan cepat dan menskalakan grup instans secara asinkron tanpa kegagalan total, dan kini Anda dapat menggabungkan fleksibilitas tersebut dengan validasi perangkat keras yang komprehensif saat instans online. Kemampuan ini mengatasi tantangan kritis di mana bahkan satu simpul yang tidak sehat dapat membuang waktu komputasi berjam-jam dan menunda beban kerja kritis.
Dengan pemeriksaan kondisi mendalam, Anda dapat menargetkan seluruh grup instans atau instans tertentu untuk menjalankan uji stres perangkat keras dan uji konektivitas yang komprehensif sebelum mengalokasikan sumber daya komputasi ke suatu pekerjaan. Karena penyediaan berkelanjutan menambahkan simpul pekerja ke klaster Slurm Anda secara asinkron saat kapasitas tersedia, Anda dapat menjalankan pemeriksaan kondisi mendalam pada setiap simpul baru saat online, memvalidasi perangkat keras sebelum menjadwalkan pekerjaan di atasnya dan tanpa mengganggu beban kerja yang sudah berjalan pada simpul yang sehat. Kemajuan dan hasil terlihat di tingkat grup instans dan instans melalui konsol SageMaker dan API, memberikan visibilitas lengkap ke kondisi GPU, konektivitas jaringan, dan kinerja komunikasi multisimpul. Instans yang menjalani pemeriksaan secara otomatis diisolasi dari penjadwalan beban kerja dan dikembalikan ke layanan setelah lulus. Saat dipasangkan dengan kemampuan pemulihan simpul otomatis HyperPod, instans yang gagal secara otomatis di-boot ulang atau diganti guna memastikan kondisi klaster yang sehat.
Kemampuan ini tersedia di semua wilayah tempat Amazon SageMaker HyperPod tersedia. Untuk mempelajari lebih lanjut tentang pemeriksaan kondisi mendalam sesuai permintaan dan penyediaan berkelanjutan, lihat Panduan Pengguna Amazon SageMaker HyperPod.