Amazon Bedrock Model Damıtma
Genel Bakış
Amazon Bedrock Model Damıtma ile Amazon Bedrock'taki en gelişmiş modellerle karşılaştırılabilir, kullanım durumuna özgü doğruluk sağlayan daha küçük, daha hızlı ve daha uygun maliyetli modeller kullanabilirsiniz. Amazon Bedrock'taki damıtılmış modeller, orijinal modellerden %500'e kadar daha hızlı ve %75'e kadar daha ucuzdur ve RAG gibi kullanım örneklerinde %2'den az doğruluk kaybı içerir.
Daha küçük, daha uygun maliyetli modeller kullanın
Model Damıtma sayesinde, müşteriler kullanım örnekleri için doğruluğunu elde etmek istedikleri bir "öğretmen" modeli seçebilir ve ardından ince ayarlamak istedikleri bir "öğrenci" modelini seçebilir. Müşteriler ayrıca kullanım örnekleri için istemler sağlar. Model Damıtma, öğretmenden yanıtlar oluşturma ve bu yanıtları öğrenci modelini ince ayarlamak üzere kullanma sürecini otomatikleştirir. Öğrenci modelleri böylece öğretmen modelleri gibi davranarak daha düşük maliyetlerle benzer doğruluk sağlayabilir.

Özel veri sentezi ile damıtılmış model performansını en üst düzeye çıkarın
Özel kullanım örneğiniz için daha büyük bir modele benzer doğruluk elde etmek için daha küçük, uygun maliyetli bir modelde ince ayar yapmak yinelemeli bir süreçtir. Model Damıtma, daha iyi sonuçlar elde etmek için gereken yineleme yükünün bir kısmını ortadan kaldırmak üzere kullanım örneğinize en uygun farklı veri sentezi yöntemlerini uygulamayı seçebilir. Örneğin Bedrock, benzer istemler oluşturarak eğitim veri kümesini genişletebilir veya müşterinin sağladığı istem-yanıt çiftlerini en iyi örnekler olarak kullanarak yüksek kaliteli sentetik yanıtlar üretebilir.

Üretim verilerinizi kolayca getirerek maliyeti azaltın
Geleneksel ince ayar ile müşterilerin istemler ve yanıtlar oluşturmaları gerekir. Model Damıtma ile, müşterilerin yalnızca istemler sağlaması gerekir. Ardından Model Damıtma, bunları sentetik yanıtlar oluşturmak ve öğrenci modellerine ince ayar yapmak için kullanır. Müşteriler bizi kendi çağrı günlüklerine yönlendirebilir ve ayrıca belirli meta veri alanlarına göre günlükleri filtreleyebilir. Model damıtma, çağrı günlükleri aracılığıyla hem istemleri hem de yanıtları okuyabilir ve Model Damıtma iş akışında sentetik yanıt oluşturma sürecini atlayabilir. Bu da öğretmen modelinden tekrar yanıt üretmek zorunda kalınmaması sayesinde maliyeti düşürür. Kod örneklerini kullanmaya başlayın.
