Die Amazon-Bedrock-Modelldestillation ist jetzt als Vorschauversion verfügbar
Mit der Amazon-Bedrock-Modelldestillation können Ihre Kunden kleinere, schnellere und kostengünstigere Modelle verwenden, die eine anwendungsfallspezifische Genauigkeit bieten, die mit den fortschrittlichsten Modellen in Amazon Bedrock vergleichbar ist.
Das Feintuning eines kleineren, kostengünstigen Modells zur Erhöhung der Genauigkeit für den spezifischen Anwendungsfall eines Kunden ist aktuell ein iterativer Prozess, bei dem Kunden Prompts und Antworten schreiben, den Trainingsdatensatz verfeinern, Trainingsparameter anpassen und dafür sorgen müssen, dass der Trainingsdatensatz verschiedene Beispiele abdeckt.
Die Amazon-Bedrock-Modelldestillation automatisiert den Prozess, der zur Generierung synthetischer Daten aus dem Lehrermodell erforderlich ist, trainiert und bewertet das Schülermodell und hostet dann das endgültige destillierte Modell zur Inferenz. Um einen Teil der Iterationslast zu verringern, kann die Modeldestillation verschiedene Datensynthesemethoden anwenden, je nachdem, welche für Ihren Anwendungsfall am besten geeignet sind. Daraus ergibt sich ein destilliertes Modell, das in etwa dem erweiterten Modell für den spezifischen Anwendungsfall entspricht. Bedrock kann beispielsweise den Trainingsdatensatz erweitern, indem es ähnliche Prompts oder hochwertige synthetische Antworten generiert, wobei vom Kunden bereitgestellte Prompt-Antwort-Paare als goldene Beispiele verwendet werden.
Weitere Informationen finden Sie in der Dokumentation und im Blog.