В Amazon Bedrock доступна ознакомительная версия функции «Дистилляция моделей»
Функция дистилляции моделей в Amazon Bedrock позволяет использовать компактные, быстрые и экономичные модели, обеспечивающие точность в каждом конкретном случае использования, сопоставимую с наиболее производительными моделями Amazon Bedrock.
Сегодня тонкая настройка небольшой экономичной модели для повышения ее точности в конкретном сценарии клиента – это итеративный процесс, в ходе которого клиент должен составлять запросы и ответы, корректировать параметры обучения, уточнять обучающий набор данных и следить за тем, чтобы он включал в себя разнообразные примеры.
Функция дистилляции моделей в Amazon Bedrock автоматизирует процесс генерации синтетических данных из обучающей модели, обучает и оценивает обучаемую модель, после чего размещает окончательную обработанную модель для получения логических выводов. Чтобы сократить количество итераций, функция дистилляции моделей может применять различные методы синтеза данных, наиболее подходящие для конкретного варианта использования, чтобы получить дистиллированную модель, приблизительно соответствующую расширенной модели для конкретного варианта использования. Например, Bedrock может расширить обучающий набор данных, генерируя сходные текстовые запросы или высококачественные синтетические ответы, используя в качестве эталона пары запросов и ответов, предоставленные клиентом.
Дополнительные сведения см. в документации и блоге.