Amazon Bedrock Model Damıtma genel kullanıma sunuldu
Model Damıtma, daha hızlı ve uygun maliyetli öğrenci modelini belirli bir kullanım durumu için öğretmen kadar yüksek performanslı hale getirmek amacıyla daha yetenekli bir modelden (öğretmen) daha az yetenekli bir modele (öğrenciye) bilgi aktarma sürecidir. Genel kullanıma sunulmasıyla birlikte şu yeni modeller için de destek ekledik: Amazon Nova Premier (öğretmen) ve Nova Pro (öğrenci), Claude 3.5 Sonnet v2 (öğretmen), Llama 3.3 70B (öğretmen) ve Llama 3.2 1B/3B (öğrenci). Amazon Bedrock Model Damıtma, artık önemli ölçüde daha hızlı yanıt süreleri ve daha düşük işletme maliyetleri sunmaya yardımcı olurken daha küçük modellerin Temsilci kullanım durumları için işlev çağrısını doğru bir şekilde tahmin etmesini sağlar. Amazon Bedrock'taki damıtılmış modeller, orijinal modellerden %500'e kadar daha hızlı ve %75 daha ucuzdur ve RAG gibi kullanım örneklerinde %2'den az doğruluk kaybı içerir. RAG kullanım durumlarına ek olarak Model Damıtma'ya, işlev çağrısı tahmini için Temsilci kullanım durumlarında veri büyütme desteği de eklendi.
Amazon Bedrock Model Damıtma, öğretmen yanıtlarını oluşturmak için gereken süreci otomatikleştiren, öğretmen yanıtlarını iyileştirmek için veri sentezi ekleyen ve ardından öğrenci modelini eğiten tek bir iş akışı sunar. Amazon Bedrock Model Damıtma, belirli bir kullanım durumu için gelişmiş modelle yaklaşık olarak eşleşen damıtılmış bir model oluşturmak üzere kullanım durumunuza en uygun farklı veri sentezi yöntemlerini uygulamayı seçebilir.
Daha fazla bilgi edinmek için belgelerimize, web sitemize ve blogumuza göz atın.