Meta Llama 2 trên Amazon Bedrock

Xây dựng trải nghiệm dựa trên AI tạo sinh nhanh chóng và dễ dàng

Lợi ích

Mô hình được tinh chỉnh, Llama Chat, tận dụng tập dữ liệu hướng dẫn có sẵn công khai và hơn 1 triệu chú thích của con người.
Các mô hình Llama được đào tạo trên hàng nghìn tỷ mã thông báo từ các nguồn dữ liệu công cộng trực tuyến để hiểu rõ hơn về sự phức tạp của ngôn ngữ.
Mô hình được tinh chỉnh có hơn 1.000 giờ nỗ lực kiểm thử xâm nhập sâu và chú thích để đảm bảo an toàn với hiệu suất của mô hình.
Amazon Bedrock là dịch vụ đám mây công khai đầu tiên cung cấp API được quản lý toàn phần cho Llama. Các tổ chức thuộc mọi quy mô đều có thể truy cập vào các mô hình Llama 2 trên Amazon Bedrock mà không cần phải quản lý cơ sở hạ tầng cơ bản.

Gặp gỡ Llama 2

Amazon Bedrock là dịch vụ đám mây công cộng đầu tiên cung cấp API được quản lý toàn phần dành cho Llama 2, mô hình ngôn ngữ lớn (LLM) thế hệ tiếp theo của Meta. Hiện tại, các tổ chức thuộc mọi quy mô đều có thể truy cập vào các mô hình Llama 2 trên Amazon Bedrock mà không cần phải quản lý cơ sở hạ tầng cơ bản. Điều này có nghĩa là bạn có thể tập trung vào thế mạnh của mình – xây dựng ứng dụng AI. Quan hệ đối tác giữa Meta và Amazon biểu thị cho sự đổi mới AI tạo sinh tổng thể. Meta và Amazon đang chung tay mở rộng ranh giới của những điều có thể.

Trường hợp sử dụng

Các LLM tinh chỉnh của Meta, được gọi là Llama-2-Chat, được tối ưu hóa cho các trường hợp sử dụng đối thoại.

Phiên bản mô hình

Llama-2-13b-chat

Mô hình tinh chỉnh trong kích thước tham số 13B. Thích hợp cho các tác vụ có quy mô nhỏ hơn như phân loại văn bản, phân tích cảm xúc và dịch ngôn ngữ.

Mã thông báo tối đa: 4K

Ngôn ngữ: Tiếng Anh

Các trường hợp sử dụng được hỗ trợ: Trò chuyện giống như trợ lý

Llama-2-70b-chat

Mô hình tinh chỉnh trong kích thước tham số 70B. Thích hợp cho các tác vụ có quy mô lớn hơn như mô hình hóa ngôn ngữ, tạo văn bản và hệ thống đối thoại.

Mã thông báo tối đa: 4K

Ngôn ngữ: Tiếng Anh

Các trường hợp sử dụng được hỗ trợ: Trò chuyện giống như trợ lý