SageMaker HyperPod artık bilgi işlem kaynaklarının ayrıntılı kota tahsisini destekliyor
SageMaker HyperPod görev yönetişimi artık bir bulut sunucusu içindeki GPU, Trainium hızlandırıcı, vCPU ve vCPU belleğinin ayrıntılı işlem kota tahsisini destekliyor. Yöneticiler, işlem kaynak dağılımını optimize ederek ve bütçe dahilinde kalarak ekiplere ayrıntılı işlem kotası tahsis edebilir.
Veri bilimciler sık sık eğitim ve çıkarım gibi tüm HyperPod bulut sunucularını gerektirmeyen LLM görevlerini çalıştırarak hızlandırılmış işlem kaynaklarının yetersiz kullanılmasına neden olur. HyperPod görev yönetişimi, yöneticilerin ekiplere yapılan işlem kota kota tahsisini yönetmesine olanak tanır. Bu yetenekle yöneticiler artık işlem kaynaklarını stratejik olarak tahsis edebilir, adil erişim sağlayabilir, kaynak tekelleşmesini önleyebilir ve küme kullanımını en üst düzeye çıkarabilir. Bu yetenek, kuruluş iş yükü taleplerine uygun olarak bulut sunucusu düzeyinde tahsisine ek olarak ayrıntılı işlem kota tahsisine olanak tanır.
SageMaker HyperPod görev yönetişimi, HyperPod'un kullanılabildiği tüm AWS bölgelerinde kullanılabilir: ABD Doğu (Kuzey Virginia), ABD Batı (K. Kaliforniya), ABD Batı (Oregon), Asya Pasifik (Mumbai), Asya Pasifik (Singapur), Asya Pasifik (Sydney) ve Asya Pasifik (Tokyo), Avrupa (Frankfurt), Avrupa (İrlanda), Avrupa (Londra), Avrupa (Stokholm) ve Güney Amerika (São Paulo).
Daha fazla bilgi edinmek için HyperPod web sayfasını ve SageMaker HyperPod görev yönetişimi belgelerini ziyaret edin.