Các mô hình Qwen3.6-35B-A3B-NVFP4 và Wan2.1-T2V-1.3B-Diffusers hiện đã có sẵn trên Amazon SageMaker JumpStart
Các mô hình Qwen3.6-35B-A3B-NVFP4 của NVIDIA và Wan2.1-T2V-1.3B-Diffusers của Alibaba hiện được cung cấp trên Amazon SageMaker JumpStart, mở rộng danh mục các mô hình nền tảng có sẵn cho khách hàng AWS. Hai mô hình này mang đến các khả năng chuyên biệt bao gồm lập trình dựa trên tác tử với suy luận ngữ cảnh dài và tạo video từ văn bản gọn nhẹ, cho phép khách hàng triển khai các giải pháp AI hiệu năng cao, có thể điều chỉnh quy mô trên cơ sở hạ tầng AWS.
Các mô hình này giải quyết các thách thức AI cho doanh nghiệp khác nhau với các khả năng chuyên biệt:
Qwen3.6-35B-A3B-NVFP4 được tối ưu hóa cho lập trình dựa trên tác tử, suy luận đa phương thức và hiểu ngữ cảnh dài dưới dạng biến thể được NVIDIA lượng tử hóa của Qwen3.6-35B-A3B từ Alibaba. Mô hình Kết hợp nhiều chuyên gia này chứa tổng cộng 35 tỷ tham số với chỉ 3 tỷ tham số được kích hoạt trên mỗi mã thông báo (8 trong số 256 chuyên gia), hỗ trợ cửa sổ ngữ cảnh 262.000 mã thông báo có thể mở rộng đến gần 1 triệu thông qua điều chỉnh quy mô YaRN. Được lượng tử hóa thành NVFP4 bằng cách sử dụng khung ModelOpt của NVIDIA, mô hình này duy trì khả năng tư duy qua các lượt trò chuyện, dự đoán nhiều token và khả năng gọi công cụ cho các quy trình tác tử nhiều bước – tất cả đều với mức chiếm dụng bộ nhớ giảm đáng kể.
Wan2.1-T2V-1.3B-Diffusers xuất sắc trong việc tạo video từ văn bản trên phần cứng cấp người tiêu dùng. Được xây dựng trên mô thức bộ chuyển đổi khuếch tán với Bộ mã hóa tự động biến phân (VAE) video mới, mô hình 1,3 tỷ tham số này tạo ra các đoạn video chất lượng cao, nhất quán về mặt vật lý từ câu lệnh văn bản trong khi chỉ yêu cầu 8,19 GB VRAM. Mô hình này có thể tạo ra video 480p 5 giây trên RTX 4090 trong khoảng 4 phút, khiến đây trở thành một trong những mô hình tạo video nguồn mở dễ tiếp cận nhất hiện có.
Với SageMaker JumpStart, khách hàng có thể triển khai bất kỳ mô hình nào trong số này chỉ với một vài cú nhấp chuột để giải quyết các trường hợp sử dụng AI cụ thể của họ.
Để bắt đầu sử dụng các mô hình này, hãy điều hướng đến danh mục mô hình SageMaker JumpStart trong bảng điều khiển SageMaker hoặc sử dụng SageMaker Python SDK để triển khai mô hình vào tài khoản AWS của bạn. Để biết thêm thông tin về việc triển khai và sử dụng mô hình nền tảng trong SageMaker JumpStart, hãy xem tài liệu về Amazon SageMaker JumpStart.