Phiên bản Amazon EC2 P6-B300 với GPU NVIDIA Blackwell Ultra hiện đã ra mắt
Hôm nay, AWS công bố cung cấp rộng rãi phiên bản Amazon Elastic Compute Cloud (Amazon EC2) P6-B300, được tăng tốc bằng GPU NVIDIA Blackwell Ultra B300. Phiên bản Amazon EC2 P6-B300 cung cấp NVIDIA Blackwell Ultra GPU gấp 8 lần với bộ nhớ GPU băng thông cao 2,1 TB, kết nối mạng EFA 6,4 Tbps, thông lượng ENA chuyên dụng 300 Gbps và bộ nhớ hệ thống 4 TB.
Phiên bản P6-B300 cung cấp băng thông mạng gấp 2 lần, kích thước bộ nhớ GPU gấp 1,5 lần và TFLOPS GPU gấp 1,5 lần (ở FP4, không thưa thớt) so với phiên bản P6-B200, rất phù hợp để đào tạo và triển khai các mô hình nền tảng (FM) lớn hàng nghìn tỷ tham số và các mô hình ngôn ngữ lớn (LLM) với các kỹ thuật tinh vi. Kết nối mạng cao hơn và bộ nhớ lớn hơn mang lại thời gian đào tạo nhanh hơn và thông lượng mã thông báo nhiều hơn cho khối lượng công việc AI.
Phiên bản P6-B300 hiện được cung cấp với kích cỡ p6-b300.48xlarge thông qua Khối dung lượng Amazon EC2 cho ML và Gói tiết kiệm ở Khu vực AWS sau: Miền Tây Hoa Kỳ (Oregon). Để đặt trước phiên bản P6-B300 theo nhu cầu, vui lòng liên hệ với quản lý khách hàng của bạn.
Để tìm hiểu thêm về phiên bản P6-B300, hãy truy cập phiên bản Amazon EC2 P6.