Amazon SageMaker HyperPod tăng tốc triển khai mô hình trọng số mở
Amazon SageMaker HyperPod giờ đây hỗ trợ triển khai cả mô hình nền tảng trọng số mở từ Amazon SageMaker JumpStart và mô hình đã qua tinh chỉnh của riêng bạn từ Amazon S3 và Amazon FSX trực tiếp tới Amazon SageMaker HyperPod. Điều này cho phép bạn đào tạo, tinh chỉnh và triển khai mô hình liền mạch trên cùng tài nguyên điện toán HyperPod, tối đa hóa việc sử dụng tài nguyên trong toàn bộ vòng đời của mô hình
Chỉ sau vài bước đơn giản, bạn có thể chọn mô hình nền tảng trọng số mở từ SageMaker JumpStart và nhanh chóng triển khai trên cụm SageMaker HyperPod của mình. SageMaker tự động cung cấp cơ sở hạ tầng, triển khai mô hình trên cụm của bạn, cho phép tự động điều chỉnh quy mô và định cấu hình điểm cuối SageMaker. SageMaker điều chỉnh quy mô tài nguyên điện toán lên xuống thông qua tính năng quản trị tác vụ HyperPod khi lưu lượng truy cập vào các điểm cuối mô hình thay đổi, đồng thời tự động đăng chỉ số lên bảng điều khiển khả năng quan sát HyperPod để cung cấp khả năng hiển thị đầy đủ về hiệu suất của mô hình.
Bạn có thể triển khai mô hình từ SageMaker JumpStart ở tất cả các Khu vực AWS đang hỗ trợ HyperPod: Miền Đông Hoa Kỳ (Bắc Virginia), Miền Tây Hoa Kỳ (Bắc California), Miền Tây Hoa Kỳ (Oregon), Châu Á Thái Bình Dương (Mumbai), Châu Á Thái Bình Dương (Singapore), Châu Á Thái Bình Dương (Sydney), Châu Á Thái Bình Dương (Tokyo), Châu Âu (Frankfurt), Châu Âu (Ireland), Châu Âu (London), Châu Âu (Stockholm) và Nam Mỹ (São Paulo).
Để tìm hiểu thêm, hãy truy cập trang web SageMaker HyperPod, blog và tài liệu.