Amazon SageMaker AI hiện hỗ trợ P6e-GB200 UltraServers
Hôm nay, Amazon SageMaker AI thông báo hỗ trợ cho P6e-GB200 UltraServers trong SageMaker HyperPod và Công việc đào tạo. Với P6e-GB200 UltraServers, bạn có thể tận dụng lên đến 72 GPU NVIDIA Blackwell trong một miền NVLink để tăng tốc đào tạo và triển khai các mô hình nền tảng ở quy mô nghìn tỷ tham số. P6e-GB200 UltraServers có hai loại kích thước: ml.u-p6e-gb200x72 (72 GPU trong NVLink) và ml.u-p6e-gb200x36 (36 GPU trong NVLink).
P6e-GB200 UltraServers cung cấp điện toán gấp hơn 20 lần và bộ nhớ gấp hơn 11 lần trong một NVIDIA NVLink so với phiên bản P5en. Trong mỗi miền NVLink, bạn có thể tận dụng 360 petaflop điện toán FP8 (không có độ thưa) và 13,4 TB tổng bộ nhớ băng thông cao (HBM3e). Khi bạn sử dụng P6e-GB200 UltraServers trên SageMaker AI, bạn sẽ có được hiệu suất vượt trội của GB200 kết hợp với cơ sở hạ tầng được quản lý của SageMaker như độ bảo mật, khả năng chịu lỗi tích hợp, khả năng lên lịch theo cấu trúc liên kết (SageMaker HyperPod EKS & Slurm), khả năng giám sát tích hợp và tích hợp gốc với các dịch vụ AWS và AI khác của SageMaker.
UltraServers được cung cấp thông qua các Kế hoạch đào tạo linh hoạt của SageMaker tại Vùng địa phương Dallas (“us-east-1-dfw-2a”), một phần mở rộng của Khu vực AWS Miền Đông Hoa Kỳ (Bắc Virginia). Để đặt trước GB200 UltraServers theo nhu cầu, vui lòng liên hệ với quản lý khách hàng của bạn. Amazon SageMaker AI cho phép bạn dễ dàng đào tạo và triển khai các mô hình máy học ở quy mô lớn dựa trên cơ sở hạ tầng được quản lý toàn diện, được tối ưu hóa về hiệu suất và chi phí. Để bắt đầu sử dụng UltraServers trên SageMaker AI, hãy truy cập tài liệu.