Chắt lọc mô hình Amazon Bedrock
Tổng quan
Với tính năng Chắt lọc mô hình của Amazon Bedrock, bạn có thể sử dụng các mô hình nhỏ gọn, nhanh và tiết kiệm chi phí hơn, đồng thời đạt được độ chính xác cho từng trường hợp sử dụng cụ thể tương đương với các mô hình tiên tiến nhất trong Amazon Bedrock. Các mô hình chắt lọc trong Amazon Bedrock nhanh hơn tới 500% và rẻ hơn tới 75% so với mô hình gốc cùng độ chính xác giảm chưa đến 2% cho các trường hợp sử dụng như RAG.
Sử dụng mô hình nhỏ hơn, tiết kiệm chi phí hơn
Với Chắt lọc mô hình, khách hàng có thể chọn một mô hình lớn hơn với độ chính xác tùy chỉnh theo trường hợp sử dụng, sau đó chọn mô hình nhỏ hơn mà họ muốn tinh chỉnh. Khách hàng cũng đưa ra câu lệnh cho trường hợp sử dụng của họ. Phương pháp Chắt lọc mô hình sẽ tự động hóa quá trình tạo phản hồi từ nhóm lớn hơn và sử dụng những phản hồi đó để tinh chỉnh mô hình nhỏ hơn. Các mô hình nhỏ hơn sau đó có thể hoạt động tương tự mô hình lớn hơn với độ chính xác tương tự nhưng tiết kiệm chi phí hơn.

Tối đa hóa hiệu suất mô hình chưng cất với tổng hợp dữ liệu độc quyền
Việc tinh chỉnh mô hình nhỏ hơn, tiết kiệm chi phí hơn để đạt được độ chính xác tương tự như mô hình lớn hơn cho trường hợp sử dụng cụ thể của bạn là một quá trình lặp đi lặp lại. Chắt lọc mô hình có thể chọn sử dụng nhiều kỹ thuật tổng hợp dữ liệu khác nhau phù hợp nhất với trường hợp sử dụng của bạn để giảm bớt áp lực lặp lại cần thiết để đạt kết quả tốt hơn. Ví dụ: Bedrock có thể mở rộng tập dữ liệu đào tạo bằng cách tạo các câu lệnh tương tự hoặc tạo phản hồi tổng hợp chất lượng cao dựa trên tiêu chuẩn vàng là các cặp câu lệnh – phản hồi do khách hàng cung cấp.

Giảm chi phí nhờ dễ dàng tích hợp dữ liệu sản xuất của bạn
Với phương pháp tinh chỉnh truyền thống, khách hàng phải tạo câu lệnh và phản hồi. Với tính năng Chắt lọc mô hình, khách hàng chỉ cần đưa ra câu lệnh rồi tính năng Chắt lọc mô hình sẽ dựa vào đó để tạo phản hồi tổng hợp và tinh chỉnh mô hình học viên. Khách hàng có thể hướng chúng tôi tới nhật ký gọi cũng như lọc nhật ký dựa trên một số trường siêu dữ liệu nhất định. Tính năng Chắt lọc mô hình có thể đọc cả câu lệnh và phản hồi thông qua nhật ký gọi và bỏ qua khâu tạo phản hồi tổng hợp trong quy trình Chắt lọc mô hình, giúp giảm chi phí vì không phải tạo lại phản hồi từ mô hình giáo viên. Bắt đầu với các mẫu mã.
