Memperkenalkan resep Amazon SageMaker HyperPod

Dikirim di: 4 Des 2024

Resep Amazon SageMaker HyperPod akan membantu Anda memulai pelatihan dan menyempurnakan model fondasi (FM) yang tersedia untuk umum dalam hitungan menit dengan kinerja canggih. SageMaker HyperPod membantu pelanggan meningkatkan skala pengembangan model AI generatif di ratusan atau ribuan akselerator AI dengan ketahanan dan optimalisasi kinerja bawaan, mengurangi waktu pelatihan model hingga 40%. Namun, karena ukuran FM terus tumbuh hingga ratusan miliar parameter, proses penyesuaian model ini dapat memakan waktu berminggu-minggu percobaan dan debugging ekstensif. Selain itu, melakukan pengoptimalan pelatihan untuk membuka kinerja harga yang lebih baik seringkali tidak layak bagi pelanggan, karena hal itu seringkali membutuhkan keahlian machine learning mendalam yang dapat menyebabkan penundaan lebih lanjut dalam waktu untuk dipasarkan. 

Dengan resep SageMaker HyperPod, pelanggan dari semua keahlian dapat memperoleh manfaat dari kinerja canggih sambil dengan cepat memulai pelatihan dan menyempurnakan FM populer yang tersedia untuk umum, termasuk Llama 3.1 405B, Mixtral 8x22B, dan Mistral 7B. Resep SageMaker HyperPod menyertakan tumpukan pelatihan yang diuji oleh AWS, menghilangkan berminggu-minggu kerja membosankan bereksperimen dengan konfigurasi model yang berbeda. Anda juga dapat dengan cepat beralih antara instans berbasis GPU dan AWS Trainium dengan perubahan resep satu baris dan mengaktifkan checkpointing model otomatis untuk meningkatkan ketahanan pelatihan. Terakhir, Anda dapat menjalankan beban kerja dalam produksi pada layanan pelatihan AI SageMaker pilihan Anda. 

Resep SageMaker HyperPod tersedia di semua AWS Region di mana pekerjaan pelatihan SageMaker HyperPod dan SageMaker didukung. Untuk mempelajari lebih lanjut dan memulai, kunjungi halaman SageMaker HyperPod dan blog.