Amazon SageMaker AI รองรับ P6e-GB200 UltraServers แล้วในตอนนี้
วันนี้ Amazon SageMaker AI ประกาศการรับรอง P6e-GB200 UltraServers ใน SageMaker HyperPod และงานการฝึก ด้วย P6e-GB200 UltraServers คุณสามารถใช้ประโยชน์จาก GPU NVIDIA Blackwell ได้สูงสุด 72 ตัวภายใต้โดเมน NVLink หนึ่งโดเมน เพื่อเร่งการฝึกและการนำโมเดลพื้นฐานระดับพันล้านพารามิเตอร์ไปใช้จริง P6e-GB200 UltraServers มีให้เลือกสองขนาด ได้แก่ ml.u-p6e-gb200x72 (GPU 72 ตัวภายใน NVLink) และ ml.u-p6e-gb200x36 (GPU 36 ตัวภายใน NVLink)
P6e-GB200 UltraServers ให้การประมวลผลได้ดีกว่าถึง 20 เท่า และให้หน่วยความจำมากกว่าถึง 11 เท่าเมื่อเทียบกับอินสแตนซ์ P5en ภายใต้ NVIDIA NVLink ตัวเดียว ภายในโดเมน NVLink แต่ละโดเมน คุณสามารถใช้ประโยชน์จากการประมวลผล FP8 360 เพตะฟลอปส์ (โดยไม่มีการกระจายข้อมูล) และหน่วยความจำแบนด์วิดท์สูงรวม 13.4 TB (HBM3e) เมื่อคุณใช้ P6e-GB200 UltraServers บน SageMaker AI คุณจะได้รับประสิทธิภาพที่เหนือระดับของ GB200 ที่มาพร้อมกับโครงสร้างพื้นฐานที่มีการจัดการของ SageMaker เช่น ความปลอดภัย, Fault Tolerance ในตัว การจัดกำหนดการที่คำนึงถึงโทโพโลยี (SageMaker HyperPod EKS & Slurm) ความสามารถในการตรวจติดตามแบบบูรณาการ และการบูรณาการแบบเนทีฟกับบริการ SageMaker AI และ AWS อื่นๆ
UltraServers มีให้บริการผ่านแผนฝึกที่ยืดหยุ่นของ SageMaker ใน Local Zone ดัลลัส (“us-east-1-dfw-2a”) ซึ่งเป็นส่วนขยายของ AWS Region สหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ) โปรดติดต่อผู้จัดการบัญชีของคุณเพื่อสำรอง GB200 UltraServers ตามความต้องการ Amazon SageMaker AI ช่วยให้คุณฝึกและนำโมเดลแมชชีนเลิร์นนิงไปใช้งานจริงได้อย่างง่ายดาย โดยใช้โครงสร้างพื้นฐานที่มีการจัดการอย่างเต็มที่ ซึ่งเหมาะกับประสิทธิภาพและต้นทุน หากต้องการเริ่มต้นใช้งาน UltraServers บน SageMaker AI โปรดไปที่เอกสารประกอบ