Cơ sở kiến thức cho Amazon Bedrock hiện đã hỗ trợ các mô hình Llama 3.1 405B, 70B và 8B
Cơ sở kiến thức cho Amazon Bedrock kết nối mô hình nền tảng (FM) với nguồn dữ liệu nội bộ của công ty một cách an toàn để kỹ thuật Tạo có kết hợp truy xuất thông tin ngoài (RAG) cung cấp các phản hồi phù hợp, dành riêng cho từng ngữ cảnh và chính xác. Nhóm mô hình nền tảng Llama 3.1 (405B, 70B và 8B) của Meta hiện đã được cung cấp rộng rãi trên Cơ sở kiến thức.
Llama 3.1 là thế hệ tiếp theo của mô hình tiên tiến do Meta cung cấp, hỗ trợ độ dài ngữ cảnh lên tới 128.000 mã thông báo (khoảng 96.000 từ hoặc 192 trang tài liệu). Các mô hình Llama 3.1 rất phù hợp với những tác vụ đòi hỏi suy luận phức tạp, kết quả đầu ra nhanh và RAG. Llama 3.1 được hỗ trợ thông qua API RetrieveAndGenerate được quản lý hoàn toàn.
Cơ sở kiến thức cho Amazon Bedrock trên các mô hình Llama 3.1 405B, 70B và 8B hiện đã được cung cấp ở Khu vực AWS Miền Tây Hoa Kỳ (Oregon). Để tìm hiểu thêm, hãy đọc bản ra mắt blog tin tức AWS và truy cập trang Meta Llama trong Amazon Bedrock. Để bắt đầu, hãy tham khảo tài liệu về Cơ sở kiến thức cho Amazon Bedrock và truy cập bảng điều khiển Amazon Bedrock.