Các mô hình AI tạo sinh của Meta Llama 3.1 hiện đã có sẵn trong Amazon SageMaker JumpStart
Các mô hình Meta Llama nâng cao và hữu dụng nhất cho đến nay, Llama 3.1, hiện đã có sẵn trong Amazon SageMaker JumpStart, một trung tâm máy học (ML) cung cấp các mô hình được đào tạo trước và thuật toán tích hợp để giúp bạn nhanh chóng bắt đầu với ML. Bạn có thể triển khai và sử dụng các mô hình Llama 3.1 với một vài cú nhấp chuột trong SageMaker Studio hoặc theo phương thức lập trình thông qua SageMaker Python SDK.
Các mô hình Llama 3.1 thể hiện những cải tiến đáng kể so với các phiên bản trước do gia tăng quy mô và dữ liệu đào tạo. Các mô hình hỗ trợ độ dài ngữ cảnh 128K, tăng 120K mã thông báo so với Llama 3. Các mô hình Llama 3.1 có năng lực gấp 16 lần mô hình Llama 3 và cải tiến khả năng suy luận cho các trường hợp sử dụng hình thức đối thoại đa ngôn ngữ bằng tám ngôn ngữ. Các mô hình có thể truy cập nhiều thông tin hơn từ các đoạn văn bản dài để đưa ra quyết định sáng suốt hơn và tận dụng dữ liệu ngữ cảnh phong phú hơn để tạo ra các phản hồi được tinh chỉnh hơn. Theo Meta, Llama 3.1 405B là một trong những mô hình nền tảng được cung cấp công khai lớn nhất và rất phù hợp cho việc tạo dữ liệu tổng hợp và chắt lọc mô hình, cả hai đều có thể giúp cải tiến các mô hình Llama nhỏ hơn. Bạn phải tuân thủ giấy phép của Meta để sử dụng dữ liệu tổng hợp nhằm tinh chỉnh mô hình. Đọc EULA để biết thêm thông tin. Tất cả các mô hình Llama 3.1 đều cung cấp khả năng tiên tiến về kiến thức chung, toán học, khả năng sử dụng công cụ và dịch thuật đa ngôn ngữ.
Các mô hình Llama 3.1 hiện có sẵn trong các khu vực AWS của SageMaker JumpStart ở Miền Đông Hoa Kỳ (Ohio), Miền Tây Hoa Kỳ (Oregon) và Miền Đông Hoa Kỳ (Bắc Virginia). Để bắt đầu với các mô hình Llama 3.1 trong SageMaker JumpStart, hãy xem tài liệu về sản phẩm và blog.