Импорт пользовательских моделей Amazon Bedrock теперь общедоступен

Проведено: 21 окт. 2024 г.

Сегодня AWS объявляет об общей доступности сервиса «Импорт пользовательских моделей», который позволяет клиентам импортировать и использовать пользовательские модели наряду с существующими базовыми моделями с помощью единого унифицированного API.

Теперь можно импортировать пользовательские веса для различных поддерживаемых архитектур моделей (таких как Meta Llama 3.2 и Mixtral 8x7B) без дополнительных затрат на управление жизненным циклом модели и инфраструктурой. Теперь клиенты могут получать бессерверный доступ к импортированным пользовательским моделям по требованию без необходимости управлять инстансами. Они могут ускорить разработку приложений генеративного ИИ, легко интегрируя импортированные пользовательские модели с собственными инструментами и функциями Bedrock, такими как агенты, базы знаний, ограничения, потоки текстовых запросов и многое другое.

Импорт пользовательских моделей Amazon Bedrock общедоступен в регионах AWS Восток США (Северная Вирджиния) и Запад США (Орегон). Для начала работы можно запустить рабочий процесс импорта моделей на странице пользовательских моделей консоли Amazon Bedrock. Дополнительные сведения см. в блоге по машинному обучению AWS, на странице импорта пользовательских моделей Bedrock или на странице документации.