Amazon SageMaker AI công bố API phiên đào tạo để tùy chỉnh mô hình phi máy chủ
Tùy chỉnh mô hình phi máy chủ Amazon SageMaker AI hiện hỗ trợ API phiên đào tạo, cung cấp cho khách hàng toàn quyền kiểm soát thuật toán sau đào tạo của họ mà không cần cung cấp hoặc quản lý cơ sở hạ tầng GPU. Các kỹ thuật được quản lý, bao gồm SFT, DPO và các phương pháp học tăng cường khác, cho phép khách hàng chọn một kỹ thuật và mô hình và được SageMaker AI chạy quá trình đào tạo. Với API phiên đào tạo, các nhóm có thể viết vòng lặp đào tạo, cho dù đó là tái tạo SFT hoặc DPO theo cách riêng của họ hoặc triển khai hàm mất mát tùy chỉnh, tín hiệu phần thưởng RL mới, lộ trình học dữ liệu hoặc thuật toán trực tiếp từ nghiên cứu mới nhất. Các thao tác như forward_backward(), optim_step() và sample() trở thành các lệnh gọi API đối với phiên trực tiếp, có trạng thái. Vì vậy, khách hàng soạn bất kỳ quy trình đào tạo nào mà kỹ thuật của họ yêu cầu trong khi SageMaker AI xử lý phân bổ GPU, tải mô hình và LoRA, thực thi phân tán, phục hồi sau khi bị lỗi, lưu trữ điểm kiểm tra và bảo mật.
Khách hàng có thể gọi các thao tác này trực tiếp từ mã Python của riêng họ để thúc đẩy việc học tăng cường, tinh chỉnh có giám sát hoặc các mục tiêu đào tạo tùy chỉnh trong một phiên đang hoạt động, với khả năng lưu điểm kiểm tra và tiếp tục đào tạo được tích hợp sẵn. Thanh toán được xử lý theo mã thông báo, vì vậy điện toán cục bộ như tính điểm phần thưởng không được tính là thời gian GPU. SageMaker AI cũng đang phát hành sổ công thức phiên đào tạo SageMaker, một bộ công thức SFT và RL sẵn sàng để chạy mà khách hàng có thể sử dụng làm kế hoạch chi tiết cho các vòng lặp đào tạo của riêng họ.
API phiên đào tạo hiện đã được cung cấp rộng rãi ở Miền Đông Hoa Kỳ (Bắc Virginia), Miền Tây Hoa Kỳ (Oregon) và Châu Á Thái Bình Dương (Mumbai). Để bắt đầu, hãy cài đặt SDK SageMaker Python và sao chép sổ công thức hoặc khởi chạy sổ tay trong Studio SageMaker và kết nối một tác tử lập trình. Để tìm hiểu thêm, hãy truy cập tài liệu và trang web Amazon SageMaker AI.