Các mô hình AI tạo sinh Llama 3.2 hiện được cung cấp trong Amazon SageMaker JumpStart

Ngày đăng: 25 Th09 2024

Llama 3.2 – các mô hình Llama hiệu suất, nhiều khả năng và hữu dụng nhất cho đến nay – hiện được cung cấp trong Amazon SageMaker JumpStart, một trung tâm máy học (ML) cung cấp các mô hình được đào tạo trước và thuật toán tích hợp để giúp bạn nhanh chóng bắt đầu với ML. Bạn có thể triển khai và sử dụng các mô hình Llama 3.2 (90B, 11B, 3B, 1B và Llama Guard 3 11B Vision) chỉ với một vài cú nhấp chuột trong Studio SageMaker hoặc thông qua SageMaker Python SDK. Bạn cũng có thể dễ dàng tinh chỉnh các mô hình Llama 3.2 1B và 3B với SageMaker JumpStart từ hôm nay.

Các mô hình Llama 3.2 được cung cấp với nhiều kích cỡ khác nhau, từ các mô hình đa phương thức vừa và nhỏ, mô hình tham số 11B và 90B có khả năng thực hiện các tác vụ lập luận tinh vi, kèm theo khả năng hỗ trợ đa phương thức cho hình ảnh có độ phân giải cao, cho đến các mô hình tham số 1B và 3B nhẹ, chỉ có văn bản, phù hợp cho các thiết bị biên, và cả mô hình Llama Guard 3 11B Vision được thiết kế để hỗ trợ sự đổi mới có trách nhiệm và sự an toàn ở cấp hệ thống. Llama 3.2 là mô hình Llama đầu tiên hỗ trợ tác vụ thị giác, với kiến trúc mô hình mới tích hợp các phần biểu diễn bộ mã hóa hình ảnh vào mô hình ngôn ngữ. Mô hình Llama 3.2 có thể giúp bạn xây dựng và triển khai mô hình AI tạo sinh để thúc đẩy những khía cạnh đổi mới như suy luận hình ảnh. Các mô hình này cũng dễ tiếp cận hơn đối với ứng dụng biên. Mô hình mới còn được thiết kế để tăng mức độ hiệu quả cho khối lượng công việc AI, giảm độ trễ và cải thiện hiệu suất để chúng phù hợp với nhiều ứng dụng.

Các mô hình Llama 3.2 ban đầu được cung cấp trong SageMaker JumpStart ở khu vực AWS Miền Đông Hoa Kỳ (Ohio). Để bắt đầu, hãy xem tài liệublog.