Amazon SageMaker AI hiện hỗ trợ danh sách ưu tiên phiên bản cho các công việc đào tạo và xử lý
Hôm nay, Amazon SageMaker AI công bố danh sách ưu tiên phiên bản cho các công việc đào tạo và xử lý, giúp việc tìm dung lượng điện toán cho khối lượng công việc của bạn dễ dàng và nhanh hơn. Nhiều khối lượng công việc đào tạo AI, tinh chỉnh và xử lý dữ liệu chạy tương đối tốt trên bất kỳ loại hoặc kích thước phiên bản nào. Tuy nhiên, trước đây, bạn chỉ phải chỉ định một loại phiên bản tại thời điểm gửi công việc và chờ SageMaker tìm thấy phiên bản cụ thể đó cho công việc của bạn. Đối với GPU có nhu cầu cao trong thời gian cao điểm, với thời gian chờ có thể không thể đoán trước được, đôi khi khách hàng phải xây dựng logic thử lại phức tạp hoặc đồng thời gửi nhiều công việc với các loại phiên bản khác nhau để tìm tùy chọn khả dụng đầu tiên. Giờ đây, bạn chỉ cần cung cấp danh sách ưu tiên các loại phiên bản mà khối lượng công việc của bạn chấp nhận và SageMaker sẽ tự động chạy công việc của bạn trên cấu hình có sẵn đầu tiên từ ưu tiên của bạn. Với giải pháp này, công việc đào tạo hoặc xử lý của bạn có thể sẽ bắt đầu sớm hơn.
Để sử dụng tính năng này, bạn sẽ chỉ định loại phiên bản và ưu tiên số lượng theo thứ tự ưu tiên khi gửi công việc đào tạo hoặc xử lý. Ví dụ: danh sách của bạn có thể chứa ưu tiên đối với hai phiên bản ml.g6.48xlarge hoặc bốn phiên bản ml.g5.48xlarge. SageMaker hoạt động thông qua danh sách này và khởi chạy công việc của bạn trên cấu hình đầu tiên có sẵn dung lượng. Bạn cũng có thể cấu hình nguồn cung cấp dung lượng từ các nguồn theo nhu cầu hoặc từ Gói đào tạo linh hoạt SageMaker dành riêng của bạn trong cùng một lần gửi công việc. Tính năng này đơn giản hóa quá trình nhận điện toán cho công việc của bạn trong thời gian có nhu cầu cao và giảm bớt việc thử lại thủ công không tạo ra khác biệt mà bạn sẽ làm, tất cả đều nằm trong API công việc đào tạo và xử lý SageMaker mà bạn đã sử dụng.
Danh sách ưu tiên phiên bản cho các công việc đào tạo và xử lý SageMaker hiện được cung cấp ở tất cả các Khu vực AWS có sẵn SageMaker thông qua CLI, API, SDK và Giao diện người dùng Bảng điều khiển của SageMaker. Để tìm hiểu thêm, hãy xem tài liệu hoặc blog ra mắt của chúng tôi.