Amazon SageMaker AI sekarang mendukung P6e-GB200 UltraServer
Hari ini, Amazon SageMaker AI mengumumkan dukungan untuk P6e-GB200 UltraServer di SageMaker HyperPod dan Tugas Pelatihan. Dengan P6e-GB200 UltraServer, Anda dapat memanfaatkan hingga 72 GPU NVIDIA Blackwell di bawah satu domain NVLink untuk mempercepat pelatihan dan deployment model dasar pada skala triliunan parameter. P6e-GB200 UltraServers tersedia dalam dua ukuran: ml.u-p6e-gb200x72 (72 GPUs within NVLink) dan ml.u-p6e-gb200x36 (36 GPUs within NVLink).
P6e-GB200 UltraServer menghadirkan lebih dari 20x komputasi dan lebih dari 11x memori di bawah satu NVIDIA NVLink dibandingkan dengan instans P5en. Dalam setiap domain NVLink Anda dapat memanfaatkan 360 petaflops komputasi FP8 (tanpa sparsitas) dan 13,4TB total memori bandwidth tinggi (HBM3e). Saat Anda menggunakan UltraServer P6e-GB200 pada SageMaker AI, Anda mendapatkan kinerja superior GB200 yang dikombinasikan dengan infrastruktur terkelola SageMaker seperti keamanan, toleransi kesalahan bawaan, penjadwalan sadar topologi (SageMaker HyperPod EKS & Slurm), kemampuan pemantauan terintegrasi, dan integrasi asli dengan layanan SageMaker AI dan AWS lainnya.
UltraServer tersedia melalui Rencana Pelatihan Fleksibel SageMaker di Zona Lokal Dallas ("us-east-1-dfw-2a"), perpanjangan dari AWS Region AS Timur (Virginia Utara). Untuk reservasi sesuai permintaan dari GB200 UltraServer, silakan hubungi manajer akun Anda. Pelatihan Amazon SageMaker AI memungkinkan Anda dengan mudah melatih dan men-deploy model machine learning dalam skala besar menggunakan infrastruktur yang dikelola sepenuhnya yang dioptimalkan untuk kinerja dan biaya. Untuk memulai dengan UltraServer di SageMaker AI, kunjungi dokumentasi.