Các mô hình AI tạo sinh Llama 3.2 hiện đã có trong Amazon Bedrock
Bộ sưu tập các mô hình Llama 3.2 hiện đã có trong Amazon Bedrock. Llama 3.2 là đại diện cho sự tiến bộ mới nhất của Meta trong mô hình ngôn ngữ lớn (LLM). Các mô hình Llama 3.2 được cung cấp với nhiều kích cỡ khác nhau, từ các mô hình đa phương thức vừa và nhỏ, mô hình tham số 11B và 90B có khả năng thực hiện các tác vụ lập luận tinh vi, kèm theo khả năng hỗ trợ đa phương thức cho hình ảnh có độ phân giải cao, cho đến các mô hình tham số 1B và 3B nhẹ, chỉ có văn bản, phù hợp cho các thiết bị biên. Llama 3.2 là mô hình Llama đầu tiên hỗ trợ tác vụ thị giác, với kiến trúc mô hình mới tích hợp các phần biểu diễn bộ mã hóa hình ảnh vào mô hình ngôn ngữ.
Bên cạnh các mô hình Llama 3.1 có khả năng tạo văn bản hiện có (8B, 70B và 405B), Llama 3.2 cũng hỗ trợ các trường hợp sử dụng đa phương thức. Giờ đây, bạn có thể sử dụng bốn mô hình Llama 3.2 mới – 90B, 11B, 3B và 1B – của Meta trong Amazon Bedrock để khai mở những khả năng của AI thuộc thế hệ tiếp theo. Tập trung vào sự đổi mới có trách nhiệm và sự an toàn ở cấp hệ thống, mô hình Llama 3.2 giúp bạn xây dựng và triển khai các mô hình và ứng dụng AI tạo sinh tối tân, tận dụng Llama trong Amazon Bedrock để thúc đẩy những khía cạnh đổi mới như suy luận hình ảnh. Các mô hình này cũng dễ tiếp cận hơn đối với ứng dụng biên. Mô hình mới còn được thiết kế để tăng mức độ hiệu quả cho khối lượng công việc AI, giảm độ trễ và cải thiện hiệu suất để chúng phù hợp với nhiều ứng dụng.
Các mô hình Llama 3.2 90B và 11B của Meta được cung cấp trong Amazon Bedrock ở Khu vực Miền Tây Hoa Kỳ (Oregon) và ở Khu vực Miền Đông Hoa Kỳ (Ohio, Bắc Virginia) qua tính năng suy luận liên khu vực. Các mô hình Llama 3.2 1B và 3B có sẵn ở Khu vực Miền Tây Hoa Kỳ (Oregon) và Châu Âu (Frankfurt), cũng như ở Khu vực Miền Đông Hoa Kỳ (Ohio, Bắc Virginia) và Châu Âu (Ireland, Paris) qua tính năng suy luận liên khu vực. Để tìm hiểu thêm, hãy đọc blog ra mắt, trang sản phẩm Llama và tài liệu. Để bắt đầu sử dụng Llama 3.2 trong Amazon Bedrock, hãy truy cập bảng điều khiển Amazon Bedrock.