Phiên bản Amazon EC2 G7e hiện được cung cấp ở khu vực Miền Tây Hoa Kỳ (Oregon)
Bắt đầu từ hôm nay, các phiên bản Amazon EC2 G7e được tăng tốc dựa trên GPU NVIDIA RTX PRO 6000 Blackwell Server Edition hiện được cung cấp ở khu vực Miền Tây Hoa Kỳ (Oregon). Phiên bản G7e cung cấp hiệu năng suy luận gấp tới 2,3 lần so với G6e.
Khách hàng có thể sử dụng phiên bản G7e để triển khai các mô hình ngôn ngữ lớn (LLM), mô hình AI trợ lý ảo, mô hình AI tạo sinh đa phương thức và mô hình AI vật lý. Phiên bản G7e cung cấp hiệu năng cao nhất cho khối lượng công việc điện toán không gian cũng như khối lượng công việc yêu cầu cả khả năng xử lý đồ họa và AI. Phiên bản G7e có tối đa 8 GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, với bộ nhớ 96 GB mỗi GPU và bộ xử lý Intel Xeon thế hệ thứ 5. Phiên bản này hỗ trợ tối đa 192 CPU ảo (vCPU) và băng thông mạng lên đến 1600 Gb/giây. Phiên bản G7e hỗ trợ công nghệ NVIDIA GPUDirect Peer to Peer (P2P), giúp tăng hiệu năng cho khối lượng công việc nhiều GPU. Ngoài ra, phiên bản G7e nhiều GPU còn hỗ trợ NVIDIA GPUDirect Remote Direct Memory Access (RDMA) với EFA trong EC2 UltraClusters, giúp giảm độ trễ cho khối lượng công việc nhiều nút quy mô nhỏ.
Bạn có thể sử dụng phiên bản G7e cho Amazon EC2 trong các Khu vực AWS sau: Miền Tây Hoa Kỳ (Oregon), Miền Đông Hoa Kỳ (Bắc Virginia) và Miền Đông Hoa Kỳ (Ohio). Bạn có thể mua các phiên bản G7e dưới dạng Phiên bản theo nhu cầu, Phiên bản dùng ngay hoặc trong Gói tiết kiệm.
Để bắt đầu, hãy truy cập Bảng điều khiển quản lý AWS, Giao diện dòng lệnh (CLI) AWS và SDK AWS. Để tìm hiểu thêm, hãy truy cập phiên bản G7e.