Chắt lọc mô hình Amazon Bedrock hiện được cung cấp rộng rãi
Chắt lọc mô hình là quá trình chuyển giao kiến thức từ một mô hình có năng lực cao hơn (giáo viên) sang một mô hình có năng lực kém hơn (học sinh), với mục tiêu là làm cho mô hình học sinh trở nên nhanh hơn, có hiệu quả về chi phí và tuân thủ như mô hình giáo viên cho một trường hợp sử dụng cụ thể. Tương ứng với sự cung cấp rộng rãi, giờ đây chúng tôi bổ sung sự hỗ trợ cho các mô hình mới sau: Amazon Nova Premier (giáo viên) và Nova Pro (học sinh), Claude 3.5 Sonnet v2 (giáo viên), Llama 3.3 70B (giáo viên) và Llama 3.2 1B/3B (học sinh). Chắt lọc mô hình Amazon Bedrock hiện cho phép các mô hình nhỏ hơn dự đoán chính xác việc gọi chức năng cho các trường hợp sử dụng Tác tử, đồng thời giúp mang lại thời gian phản hồi ngắn hơn đáng kể và chi phí vận hành thấp hơn. Các mô hình chắt lọc trong Amazon Bedrock nhanh hơn tới 500% và rẻ hơn tới 75% so với mô hình gốc, cùng độ chính xác giảm chưa đến 2% cho các trường hợp sử dụng như RAG. Ngoài các trường hợp sử dụng RAG, Chắt lọc mô hình cũng bổ sung sự hỗ trợ tăng cường dữ liệu cho các trường hợp sử dụng Tác tử để dự đoán gọi hàm.
Chắt lọc mô hình Amazon Bedrock cung cấp một quy trình làm việc tự động hóa quá trình cần thiết để tạo phản hồi của giáo viên, bổ sung việc tổng hợp dữ liệu để cải thiện phản hồi của giáo viên, sau đó đào tạo mô hình học sinh. Chắt lọc mô hình Amazon Bedrock có thể áp dụng các phương pháp tổng hợp dữ liệu khác nhau, phù hợp nhất với trường hợp sử dụng của bạn để tạo ra một mô hình chắt lọc tương đồng với mô hình nâng cao cho trường hợp sử dụng cụ thể.
Tìm hiểu thêm trong tài liệu, trang web và blog của chúng tôi.