Amazon SageMaker AI artık P6e-GB200 UltraServers'ı destekliyor
Bugün Amazon SageMaker AI, SageMaker HyperPod ve eğitim işlerinde P6e-GB200 UltraServers desteğini duyurdu. P6e-GB200 UltraServers ile trilyon parametre ölçeğinde temel modellerin eğitimini ve dağıtımını hızlandırmak için tek bir NVLink etki alanı altında 72 adede kadar NVIDIA Blackwell GPU'dan yararlanabilirsiniz. P6e-GB200 UltraServers şu iki boyutta sunulur: ml.u-p6e-gb200x72 (NVLink içinde 72 GPU) ve ml.u-p6e-gb200x36 (NVLink içinde 36 GPU).
P6e-GB200 UltraServers, P5en bulut sunucularına kıyasla tek bir NVIDIA NVLink altında 20 kat fazla işlem ve 11 katın üzerinde bellek sunar. Her NVLink etki alanında 360 petaflop FP8 işleminden (seyreklik olmadan) ve 13,4 TB toplam yüksek bant genişliği belleğinden (HBM3e) yararlanabilirsiniz. SageMaker AI üzerinde P6e-GB200 UltraServers kullandığınızda, GB200'ün üstün performansını güvenlik, yerleşik hata toleransı, topoloji farkında zamanlama (SageMaker HyperPod EKS & Slurm), entegre izleme yetenekleri ve diğer SageMaker AI ve AWS hizmetleriyle yerel entegrasyon gibi özellikler içeren SageMaker'ın yönetilen altyapısıyla birleştirilmiş haline ulaşırsınız.
UltraServers, ABD Doğu (Kuzey Virginia) AWS Bölgesinin bir uzantısı olan Dallas Yerel Bölgesi'ndeki (“us-east-1-dfw-2a”) SageMaker Esnek Eğitim Planları aracılığıyla edinilebilir. İsteğe bağlı GB200 UltraServers rezervasyonu için lütfen hesap yöneticinize ulaşın. Amazon SageMaker AI, performans ve maliyet açısından optimize edilmiş, tam olarak yönetilen altyapıyı kullanarak makine öğrenimi modellerini büyük ölçekte kolayca eğitebilmenizi ve dağıtmanızı sağlar. SageMaker AI'da UltraServer'ı kullanmaya başlamak için belgeleri ziyaret edin.