SageMaker HyperPod hiện hỗ trợ Lên lịch theo cấu trúc liên kết cho các tác vụ LLM
Giờ đây, quản trị nhiệm vụ SageMaker HyperPod hỗ trợ Lên lịch theo cấu trúc liên kết (TAS), cho phép các nhà khoa học dữ liệu lên lịch các tác vụ mô hình ngôn ngữ lớn (LLM) của họ trên cấu trúc liên kết mạng tối ưu, giúp giảm thiểu giao tiếp mạng và nâng cao hiệu quả đào tạo.
Các tác vụ đào tạo và tinh chỉnh LLM được phân tán trên nhiều phiên bản điện toán tăng tốc thường trao đổi khối lượng lớn dữ liệu với nhau. Nhiều bước nhảy mạng giữa các phiên bản có thể dẫn đến độ trễ cao hơn trong giao tiếp, ảnh hưởng đến hiệu suất của tác vụ LLM. Quản trị nhiệm vụ SageMaker HyperPod hiện cho phép các nhà khoa học dữ liệu sử dụng thông tin cấu trúc liên kết mạng khi lên lịch các tác vụ với các tùy chọn cấu trúc liên kết cụ thể. Sử dụng cấu trúc liên kết mạng trong HyperPod, quản trị nhiệm vụ SageMaker HyperPod tự động lên lịch các tác vụ ở những vị trí tối ưu, giảm giao tiếp giữa các phiên bản và nâng cao hiệu quả đào tạo.
Quản trị nhiệm vụ SageMaker HyperPod được cung cấp ở tất cả các Khu vực AWS có hỗ trợ HyperPod: Miền Tây Hoa Kỳ (Bắc California), Miền Tây Hoa Kỳ (Oregon), Châu Á Thái Bình Dương (Singapore), Châu Á Thái Bình Dương (Sydney), Châu Âu (Frankfurt), Châu Âu (Ireland), Châu Âu (Stockholm).
Để tìm hiểu thêm, hãy truy cập trang web SageMaker HyperPod và tài liệu về quản trị nhiệm vụ SageMaker HyperPod.