SageMaker AI hiện hỗ trợ tinh chỉnh phi máy chủ cho các mô hình NVIDIA Nemotron
Amazon SageMaker AI hiện hỗ trợ tùy chỉnh mô hình phi máy chủ cho mô hình NVIDIA Nemotron 3 Nano bằng tính năng tinh chỉnh có giám sát (SFT) và tinh chỉnh tăng cường (RFT). Đây là một mô hình trọng số mở phổ biến của NVIDIA, với tổng cộng 30 tỷ tham số. Ngoài việc triển khai mô hình này trên SageMaker AI, hiện bạn cũng có thể tùy biến mô hình này theo các miền và quy trình làm việc cụ thể của mình.
Thông qua tùy chỉnh mô hình, bạn có thể tinh chỉnh các mô hình nền tảng bằng dữ liệu độc quyền của mình, dù là để cải thiện độ chính xác cho các tác vụ cụ thể theo từng miền, căn chỉnh đầu ra theo giọng điệu của tổ chức, hay nâng cao hiệu năng cho các tác vụ mới bằng cách sử dụng dữ liệu đã được dán nhãn. Với phần tùy chỉnh phi máy chủ, SageMaker AI xử lý toàn bộ công đoạn cung cấp cơ sở hạ tầng và điều phối đào tạo, để bạn có thể tập trung vào dữ liệu và việc đánh giá thay vì phải quản lý cụm và chỉ trả tiền theo mức sử dụng.
Tính năng tùy chỉnh mô hình phi máy chủ cho NVIDIA Nemotron 3 Nano trên SageMaker AI có sẵn tại Miền Đông Hoa Kỳ (Bắc Virginia), Miền Tây Hoa Kỳ (Oregon), Châu Á Thái Bình Dương (Tokyo) và Châu Âu (Ireland). Để bắt đầu, hãy điều hướng đến trang Mô hình trong Studio Amazon SageMaker để khởi chạy công việc tùy chỉnh hoặc sử dụng SDK SageMaker Python để truy cập theo lập trình. Để tìm hiểu thêm, hãy xem tài liệu về tùy chỉnh mô hình của Amazon SageMaker AI.