Tata kelola tugas sekarang tersedia secara umum untuk Amazon SageMaker HyperPod
Amazon SageMaker HyperPod kini memberi Anda tata kelola terpusat di semua tugas pengembangan AI generatif, seperti pelatihan dan inferensi. Anda memiliki visibilitas dan kontrol penuh atas alokasi sumber daya komputasi, memastikan tugas yang paling penting diprioritaskan dan memaksimalkan pemanfaatan sumber daya komputasi, sehingga mengurangi biaya pengembangan model hingga 40%.
Dengan tata kelola tugas HyperPod, administrator dapat lebih mudah menentukan prioritas untuk tugas yang berbeda dan menetapkan batas untuk berapa banyak sumber daya komputasi yang dapat digunakan setiap tim. Pada waktu tertentu, administrator juga dapat memantau dan mengaudit tugas yang sedang berjalan atau menunggu sumber daya komputasi melalui dasbor visual. Ketika ilmuwan data membuat tugas mereka, HyperPod secara otomatis menjalankannya dengan mengikuti batas dan prioritas sumber daya komputasi yang ditentukan. Misalnya, ketika pelatihan untuk model prioritas tinggi perlu diselesaikan sesegera mungkin tetapi semua sumber daya komputasi sedang digunakan, HyperPod membebaskan sumber daya dari tugas prioritas rendah untuk mendukung pelatihan. HyperPod menjeda tugas prioritas rendah, menyimpan checkpoint, dan mengalokasikan kembali sumber daya komputasi yang dibebaskan. Tugas prioritas rendah yang dikesampingkan akan dilanjutkan dari checkpoint terakhir yang disimpan saat sumber daya tersedia lagi. Dan ketika tim tidak sepenuhnya menggunakan batasan sumber daya yang telah ditetapkan administrator, HyperPod menggunakan sumber daya diam tersebut untuk mempercepat tugas tim lain. Selain itu, HyperPod kini terintegrasi dengan Amazon SageMaker Studio, menghadirkan tata kelola tugas dan kemampuan HyperPod lainnya ke lingkungan Studio. Ilmuwan data kini dapat berinteraksi dengan klaster HyperPod secara lancar langsung dari Studio, yang memungkinkan mereka untuk mengembangkan, mengirimkan, dan memantau pekerjaan machine learning (ML) pada klaster yang didukung akselerator yang kuat.
Tata kelola tugas untuk HyperPod tersedia di semua AWS Region tempat HyperPod tersedia: AS Timur (Virginia Utara), AS Barat (California Utara), AS Barat (Oregon), Asia Pasifik (Mumbai), Asia Pasifik (Singapura), Asia Pasifik (Sydney), dan Asia Pasifik (Tokyo), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Stockholm), dan Amerika Selatan (São Paulo).
Untuk mempelajari selengkapnya, kunjungi halaman web SageMaker HyperPod, Blog Berita AWS, dan dokumentasi SageMaker AI.