Amazon P6e-GB200 UltraServers, EC2'deki en yüksek GPU performansıyla kullanıma sunuldu
AWS bugün, NVIDIA GB200 NVL72 ile desteklenen Amazon Elastic Compute Cloud (Amazon EC2) P6e-GB200 UltraServers'ın genel kullanıma sunulduğunu duyurdu. Amazon EC2 P6e-GB200 UltraServers, EC2'deki en yüksek GPU tabanlı yapay zeka eğitimi ve çıkarım performansını sunar. Bu çözüm, trilyon parametre ölçeğinde akıl yürütme modelleri ve etken yapay zeka gibi yeni nesil özellikler dahil altyapı modellerinin (FM) eğitimini ve çıkarımını hızlandıracak şekilde tasarlanmıştır.
P6e-GB200 UltraServers ile müşteriler, 360 petaflop FP8 hesaplamasından (seyreklik olmadan), 13,4 TB toplam yüksek bant genişliği belleğinden (HBM3e) ve 28,8 Tb/sn.ye kadar Elastic Fabric Adapter (eFaV4) ağından yararlanmak için tek bir NVLink etki alanında 72 adede kadar Blackwell GPU'ya erişebilir. P6e-GB200 UltraServers, AWS Nitro System tarafından desteklenmektedir. Böylece müşteriler, EC2 UltraClusters içindeki yapay zeka iş yüklerini güvenilir ve güvenli biçimde on binlerce GPU'yu içerecek şekilde ölçeklendirebilir.
P6e-GB200 UltraServers artık ABD Doğu (Kuzey Virginia) bölgesinin bir uzantısı olan Dallas Yerel Alanındaki ("us-east-1-dfw-2a") ML İçin Amazon EC2 Kapasite Blokları üzerinden edinilebilir. P6e-GB200 UltraServers şu iki boyutta sunulur: u-p6e-gb200x72 (NVLink içinde 72 GPU) ve u-p6e-gb200x36 (NVLink içinde 36 GPU).
Daha fazla bilgi için Amazon EC2 P6e-GB200 UltraServers ve P6-B200 bulut sunucuları sayfasına bakın.