Llama 4 của Meta hiện được cung cấp dưới dạng được quản lý toàn phần trong Amazon Bedrock
Các mô hình đầu tiên trong tập hợp Llama 4 mới – Llama 4 Scout 17B và Llama 4 Maverick 17B – hiện có sẵn ở dạng được quản lý toàn phần trong Amazon Bedrock. Bạn có thể vận dụng Llama 4 cho các ứng dụng của mình thông qua dịch vụ được quản lý toàn phần của Amazon Bedrock với một API. Các mô hình đa phương thức tiên tiến này cho phép bạn xây dựng ứng dụng được tùy chỉnh nhiều hơn cho phù hợp với nhiều loại nội dung đa phương tiện. Llama 4 mang đến hiệu suất cao hơn và chi phí thấp hơn so với Llama 3, cùng sự hỗ trợ ngôn ngữ mở rộng cho các ứng dụng toàn cầu. Với kiến trúc mixture-of-experts (MoE – kết hợp các chuyên gia), các mô hình này cung cấp khả năng xử lý đa phương thức hiệu quả cho đầu vào văn bản và hình ảnh, cải thiện tính hiệu quả điện toán và các biện pháp an toàn AI nâng cao.
Theo Meta, mô hình Llama 4 Scout 17B nhỏ hơn là mô hình đa phương thức tốt nhất thế giới trong cùng phân khúc và mạnh hơn các mô hình Llama 3 của Meta. Scout là một mô hình đa dụng với 17 tỷ thông số hoạt động, 16 chuyên gia và tổng cộng 109 tỷ thông số, mang lại hiệu suất tối tân trong cùng lớp. Scout tăng đáng kể độ dài ngữ cảnh từ 128K trong Llama 3 lên 10 triệu token, con số dẫn đầu trong ngành. Điều này cho phép triển khai nhiều ứng dụng thực tế, bao gồm tóm tắt nhiều tài liệu, phân tích hoạt động toàn diện của người dùng đối với các tác vụ được cá nhân hóa và lý luận trên cơ sở mã rộng lớn. Llama 4 Maverick 17B là mô hình đa dụng có 128 chuyên gia, tổng số 400 tỷ thông số và độ dài ngữ cảnh 1 triệu. Mô hình thể hiện sự vượt trội trong việc hiểu hình ảnh và văn bản trên 12 ngôn ngữ, phù hợp với các ứng dụng trợ lý và trò chuyện linh hoạt.
Các mô hình Llama 4 của Meta được cung cấp trong Amazon Bedrock ở Khu vực AWS Miền Đông Hoa Kỳ (Bắc Virginia) và Miền Tây Hoa Kỳ (Oregon). Bạn cũng có thể truy cập Llama 4 ở Miền Đông Hoa Kỳ (Ohio) thông qua tính năng suy luận liên khu vực. Để tìm hiểu thêm, hãy đọc blog ra mắt, trang sản phẩm, giá Amazon Bedrock và tài liệu. Để bắt đầu sử dụng Llama 4 trong Amazon Bedrock, hãy truy cập bảng điều khiển Amazon Bedrock.