ทำไมต้องใช้ Amazon EC2 UltraServer

Amazon Elastic Compute Cloud (Amazon EC2) UltraServers เหมาะสำหรับลูกค้าที่ต้องการประสิทธิภาพการฝึก AI และการอนุมานสูงสุดสำหรับโมเดลในระดับล้านล้านพารามิเตอร์ UltraServers เชื่อมต่ออินสแตนซ์ EC2 หลายอินสแตนซ์ โดยใช้การเชื่อมต่อตัวเร่งความเร็วแบนด์วิดท์สูงที่มีเวลาแฝงต่ำโดยเฉพาะ ซึ่งช่วยให้คุณสามารถใช้ประโยชน์จากโครงข่ายเร่งความเร็วที่จับคู่กันอย่างแน่นหนาในอินสแตนซ์ EC2 รวมถึงเข้าถึงการประมวลผลและหน่วยความจำได้มากกว่าอินสแตนซ์ EC2 แบบสแตนด์อโลน

EC2 UltraServers เหมาะสำหรับโมเดลขนาดใหญ่ที่สุดซึ่งต้องการหน่วยความจำและแบนด์วิดท์หน่วยความจำมากกว่าที่อินสแตนซ์ EC2 แบบสแตนด์อโลนสามารถให้ได้ การออกแบบ UltraServer ใช้การเชื่อมต่อตัวเร่งภายในอินสแตนซ์เพื่อเชื่อมต่อหลายอินสแตนซ์เข้ากับโหนดเดียว ซึ่งช่วยปลดล็อกความสามารถใหม่ ๆ สำหรับการอนุมาน UltraServer ให้เวลาตอบสนองได้ในระดับชั้นนำของอุตสาหกรรม จึงสร้างประสบการณ์แบบเรียลไทม์ได้ดีที่สุด และสำหรับการฝึกนั้น UltraServer ก็จะช่วยเพิ่มความเร็วและประสิทธิภาพการฝึกโมเดลด้วยการสื่อสารแบบรวมที่รวดเร็วขึ้นเพื่อการทำงานคู่ขนานของโมเดล โดยจะทำงานได้เร็วกว่าเมื่อเทียบกับอินสแตนซ์แบบสแตนด์อโลน EC2 UltraServers รองรับระบบเครือข่าย EFA และเมื่อนำมาใช้งานใน EC2 UltraClusters จะช่วยให้ขยายการฝึกแบบกระจายตัวได้ในตัวเร่งหลายหมื่นตัวบนเครือข่ายที่ไม่บล็อกในระดับเพตะบิตเดียว ด้วยการมอบประสิทธิภาพที่สูงขึ้นสำหรับการฝึกและการอนุมาน UltraServers จึงสามารถช่วยเร่งเวลาออกสู่ตลาดและช่วยให้คุณสามารถส่งมอบแอปพลิเคชันแบบเรียลไทม์ที่ขับเคลื่อนโดยโมเดลพื้นฐานใหม่ที่มีประสิทธิภาพมากที่สุด

ประโยชน์

คุณสมบัติ

อินสแตนซ์ที่รองรับ

อินสแตนซ์ Trn2

อินสแตนซ์ Trn2ที่ขับเคลื่อนด้วยชิป AWS Trainium2 ในการกำหนดค่า Trn2 UltraServer (มีให้ใช้งานในเวอร์ชันทดลองใช้) ช่วยให้คุณสามารถปรับขนาดชิป Trainium2 ได้ถึง 64 ชิป ที่เชื่อมต่อกับ NeuronLink ซึ่งเป็นการเชื่อมต่อแบนด์วิดท์สูงที่มีเวลาแฝงต่ำสำหรับชิป AWS AI โดยเฉพาะ Trn2 UltraServer จะมอบประสิทธิภาพที่ล้ำหน้าใน Amazon EC2 สำหรับการฝึกและการอนุมานของ AI ช่วยสร้าง

เรียนรู้เพิ่มเติม