Amazon SageMaker HyperPod hiện đã hỗ trợ Phiên bản dùng ngay
Amazon SageMaker HyperPod hiện đã hỗ trợ Phiên bản dùng ngay, giúp khách hàng giảm chi phí điện toán GPU lên đến 90% so với phiên bản theo nhu cầu trên HyperPod. Theo quá trình điều chỉnh quy mô của khối lượng công việc AI, việc tối ưu hóa chi phí cơ sở hạ tầng ngày càng trở nên trọng yếu. Tính năng tích hợp phiên bản Dùng ngay của SageMaker HyperPod giải quyết vấn đề này bằng cách cho phép khách hàng tự động tận dụng dung lượng EC2 dự phòng với mức chiết khấu đáng kể, đồng thời, cung cấp trải nghiệm AI được quản lý mà khách hàng có thể tận hưởng trên HyperPod.
Với Phiên bản dùng ngay, các tổ chức có thể chạy khối lượng công việc có khả năng chịu lỗi một cách hiệu quả về chi phí trên quy mô lớn. Bạn có thể kết hợp phiên bản Dùng ngay với phiên bản theo nhu cầu để cân bằng giữa việc tối ưu hóa chi phí và đảm bảo tính sẵn dùng. Tính năng này được cung cấp cho các cụm HyperPod EKS và tích hợp với Karpenter để tự động điều chỉnh quy mô thông minh, tự động phát hiện dung lượng phiên bản Dùng ngay có sẵn và xử lý các tình huống gián đoạn phiên bản.
Bạn có thể bật Phiên bản dùng ngay khi tạo nhóm phiên bản thông qua API CreateCluster hoặc Bảng điều khiển AWS. Tính năng này hỗ trợ tất cả các loại phiên bản được cung cấp trên HyperPod, bao gồm CPU và GPU. Độ sẵn sàng của dung lượng phụ thuộc vào nguồn cung từ EC2 và có sự khác biệt tùy theo khu vực và loại phiên bản. Tính năng hỗ trợ Phiên bản dùng ngay được cung cấp ở tất cả các khu vực hiện đang hỗ trợ SageMaker HyperPod. Để tìm hiểu thêm, vui lòng tham khảo tài liệu.