Tính năng quản trị tác vụ hiện đã được cung cấp rộng rãi cho Amazon SageMaker HyperPod
Amazon SageMaker HyperPod hiện đã cho phép bạn quản trị tập trung tất cả các nhiệm vụ phát triển AI tạo sinh, chẳng hạn như đào tạo và suy luận. Bạn có toàn quyền kiểm soát và giám sát việc phân bổ tài nguyên điện toán, đảm bảo ưu tiên các nhiệm vụ quan trọng nhất và tối đa hóa mức sử dụng tài nguyên điện toán, giảm chi phí phát triển mô hình tới 40%.
Với tính năng quản trị nhiệm vụ của HyperPod, quản trị viên có thể dễ dàng xác định mức độ ưu tiên cho các tác vụ khác nhau và thiết lập giới hạn cho số lượng tài nguyên điện toán mà mỗi nhóm hoặc dự án có thể sử dụng. Ngoài ra, quản trị viên luôn có thể giám sát và kiểm tra các tác vụ đang chạy hoặc đang chờ tài nguyên điện toán thông qua bảng thông tin trực quan. Khi nhà khoa học dữ liệu tạo tác vụ, HyperPod sẽ tự động chạy chúng, tuân thủ theo các giới hạn và mức độ ưu tiên về tài nguyên điện toán đã xác định. Ví dụ: khi bạn cần hoàn thành nhiệm vụ đào tạo một mô hình có mức độ ưu tiên cao trong thời gian sớm nhất nhưng tất cả tài nguyên điện toán đều đang được sử dụng, HyperPod sẽ giải phóng tài nguyên khỏi các tác vụ có mức độ ưu tiên thấp hơn để hỗ trợ hoạt động đào tạo. HyperPod tạm dừng tác vụ có mức độ ưu tiên thấp, lưu điểm kiểm tra và phân bổ lại tài nguyên điện toán được giải phóng. Tác vụ có mức độ ưu tiên thấp bị tạm dừng sẽ tiếp tục từ điểm kiểm tra đã lưu cuối cùng khi tài nguyên sẵn sàng. Khi một nhóm không sử dụng hết giới hạn tài nguyên mà quản trị viên đã thiết lập, HyperPod sẽ sử dụng các tài nguyên nhàn rỗi đó để đẩy nhanh tác vụ của nhóm khác. Ngoài ra, HyperPod hiện được tích hợp với Studio Amazon SageMaker, giúp tích hợp khả năng quản lý tác vụ và các khả năng khác của HyperPod vào môi trường Studio. Giờ đây, các nhà khoa học dữ liệu có thể tương tác liền mạch với cụm HyperPod ngay từ Studio, cho phép họ phát triển, gửi và giám sát tác vụ máy học (ML) trên các cụm được hỗ trợ bởi trình tăng tốc mạnh mẽ.
Tính năng quản trị tác vụ cho HyperPod được cung cấp ở tất cả các Khu vực AWS đang hỗ trợ HyperPod: Miền Đông Hoa Kỳ (Bắc Virginia), Miền Tây Hoa Kỳ (Bắc California), Miền Tây Hoa Kỳ (Oregon), Châu Á Thái Bình Dương (Mumbai), Châu Á Thái Bình Dương (Singapore), Châu Á Thái Bình Dương (Sydney), Châu Á Thái Bình Dương (Tokyo), Châu Âu (Frankfurt), Châu Âu (Ireland), Châu Âu (London), Châu Âu (Stockholm) và Nam Mỹ (São Paulo).
Để tìm hiểu thêm, hãy truy cập trang web SageMaker HyperPod, Blog tin tức AWS và tài liệu về SageMaker AI.