Thông báo mở rộng khu vực của phiên bản G6 trên Suy luận SageMaker AI
Chúng tôi vui mừng thông báo về việc cung cấp phiên bản Amazon EC2 G6 ở khu vực AWS GovCloud (Miền Đông Hoa Kỳ) trên suy luận Amazon SageMaker AI. Phiên bản G6 được trang bị tối đa 8 GPU NVIDIA L4 Tensor Core, mỗi GPU có bộ nhớ 24 GB và bộ xử lý AMD EPYC thế hệ thứ ba, mang lại hiệu năng suy luận học sâu gấp 2 lần so với phiên bản G4dn.
Với việc mở rộng khu vực này, các cơ quan chính phủ và tổ chức hoạt động trong GovCloud có thể triển khai các điểm cuối suy luận trên phiên bản G6 để phục vụ khối lượng công việc AI tạo sinh – bao gồm các mô hình ngôn ngữ vừa và nhỏ, tạo hình ảnh và tác vụ thị giác máy tính – đồng thời đáp ứng các yêu cầu tuân thủ và vị trí lưu dữ liệu nghiêm ngặt. Phiên bản G6 cung cấp tỷ lệ hiệu năng trên chi phí cao cho khối lượng công việc suy luận sản xuất phù hợp với bộ nhớ GPU 24 GB.
Phiên bản G6 cho suy luận SageMaker AI hiện có sẵn ở AWS GovCloud (Miền Đông Hoa Kỳ), ngoài các khu vực được hỗ trợ trước đây. Vui lòng truy cập trang định giá của chúng tôi để biết thông tin về mức giá của những phiên bản này.