Ra mắt khả năng đào tạo linh hoạt trên Amazon SageMaker HyperPod
Amazon SageMaker HyperPod hiện hỗ trợ đào tạo linh hoạt, cho phép các tổ chức tăng tốc đào tạo mô hình nền tảng bằng cách tự động điều chỉnh quy mô khối lượng công việc đào tạo dựa trên mức ưu tiên khối lượng công việc và tài nguyên có sẵn. Điều này thể hiện bước chuyển đổi cơ bản so với đào tạo với bộ tài nguyên cố định, nhờ tiết kiệm nhiều giờ thiết kế kỹ thuật dành cho việc cấu hình lại công việc đào tạo dựa trên khả năng cung cấp tài nguyên điện toán.
Trước đây, mọi thay đổi về khả năng cung cấp tài nguyên điện toán đều buộc phải dừng quá trình đào tạo theo cách thủ công, cấu hình lại các thông số đào tạo và khởi động lại công việc. Quy trình này đòi hỏi chuyên môn đào tạo phân tán và khiến các bộ tăng tốc AI đắt tiền phải chờ trong lúc cấu hình lại công việc đào tạo. Đào tạo linh hoạt tự động mở rộng công việc đào tạo để tận dụng những bộ tăng tốc AI đang nhàn rỗi, và thu hẹp liền mạch khi các khối lượng công việc có mức ưu tiên cao hơn cần tài nguyên – tất cả đều diễn ra mà không phải dừng toàn bộ quá trình đào tạo.
Bằng cách loại bỏ chi phí cấu hình lại thủ công và đảm bảo sử dụng liên tục tài nguyên điện tính có sẵn, đào tạo linh hoạt có thể giúp tiết kiệm thời gian trước đây dành cho quản lý cơ sở hạ tầng, giảm chi phí bằng cách tối đa hóa việc sử dụng cụm và đẩy nhanh thời gian đưa ra thị trường. Có thể bắt đầu đào tạo ngay lập tức với tài nguyên tối thiểu và phát triển theo cơ hội khi năng lực có sẵn.
SageMaker HyperPod có ở tất cả các khu vực hiện hỗ trợ Amazon SageMaker HyperPod. Các tổ chức có thể kích hoạt đào tạo linh hoạt mà không cần thay đổi mã bằng cách sử dụng công thức HyperPod cho các mô hình có sẵn công khai bao gồm cả Llama và GPT OSS. Đối với kiến trúc mô hình tùy chỉnh, khách hàng có thể tích hợp khả năng đào tạo linh hoạt thông qua các bản cập nhật cấu hình gọn nhẹ và sửa đổi mã tối thiểu, giúp các nhóm có thể truy cập mà không yêu cầu chuyên môn về hệ thống phân tán.
Để bắt đầu, hãy truy cập trang sản phẩm Amazon SageMaker HyperPod và xem tài liệu đào tạo linh hoạt để biết hướng dẫn triển khai.