Giờ đây, bạn đã có thể tinh chỉnh mô hình Llama 3.1 8B và 70B của Meta trong Amazon Bedrock

Ngày đăng: 28 Th10 2024

Amazon Bedrock nay đã hỗ trợ tính năng tinh chỉnh cho các mô hình Llama 3.1 70B và 8B của Meta, cho phép doanh nghiệp tùy chỉnh các mô hình AI tạo sinh này bằng dữ liệu riêng. Mô hình Llama 3.1 sở hữu những cải tiến đáng kể so với các phiên bản trước, bao gồm độ dài ngữ cảnh 128K – lớn hơn 16 lần so với Llama 3 – giúp bạn truy cập và xử lý khối lượng thông tin lớn hơn từ các đoạn văn bản dài. Tính năng tinh chỉnh cũng có thể dùng để điều chỉnh mô hình Llama 3.1 cho các tác vụ theo miền cụ thể, nâng cao hiệu suất mô hình cho các trường hợp sử dụng chuyên biệt.

Theo Meta, mô hình Llama 3.1 làm rất tốt tác vụ đối thoại đa ngôn ngữ khi sử dụng được tám ngôn ngữ và khả năng suy luận được cải thiện. Mô hình Llama 3.1 70B là lựa chọn lý tưởng cho công việc sáng tạo nội dung, AI giao tiếp, hiểu ngôn ngữ, phát triển và nghiên cứu (R&D) cũng như các ứng dụng doanh nghiệp. Mô hình này thực hiện xuất sắc các tác vụ như tóm tắt văn bản, phân loại văn bản, phân tích cảm xúc, suy luận sắc thái, mô hình hóa ngôn ngữ, hệ thống đối thoại, tạo mã và làm theo hướng dẫn. Đây là lựa chọn phù hợp nhất cho các kịch bản có công suất và tài nguyên tính toán hạn chế, vượt trội khi tóm tắt văn bản, phân loại, phân tích cảm xúc và dịch ngôn ngữ, đồng thời đảm bảo suy luận có độ trễ thấp. Nhờ tinh chỉnh mô hình Llama 3.1 trong Amazon Bedrock, các doanh nghiệp có thể tăng cường hơn nữa khả năng cho các ứng dụng chuyên biệt, nâng cao độ chính xác và mức độ liên quan mà không cần xây dựng mô hình từ đầu.

Bạn có thể tinh chỉnh mô hình Llama 3.1 trong Amazon Bedrock ở Khu vực AWS Miền Tây Hoa Kỳ (Oregon). Truy cập trang giá Amazon Bedrock để tham khảo giá. Để bắt đầu, hãy xem hướng dẫn sử dụng Bedrock.