Amazon Bedrock теперь поддерживает специализированные серверные инструменты на базе API Responses
Amazon Bedrock теперь поддерживает серверные инструменты в API-интерфейсе Responses при использовании сервисных адресов, совместимых с API OpenAI. Сервис Bedrock уже поддерживает использование инструментов на стороне клиента в API-интерфейсах Converse, Chat Completions и Responses. Теперь с запуском серверных инструментов для API Responses Amazon Bedrock вызывает инструменты напрямую, не обращаясь к клиенту, что позволяет вашим приложениям искусственного интеллекта выполнять в реальном времени многоэтапные действия, такие как поиск в Интернете, исполнение кода и обновление баз данных в рамках организационных, управленческих, нормативных и защитных границ ваших аккаунтов AWS. Вы можете либо отправить собственную функцию Lambda для запуска собственных инструментов, либо использовать предоставляемые AWS инструменты, такие как заметки и задачи.
Серверные инструменты, использующие API Responses, доступны с сегодняшнего дня в моделях OpenAI GPT OSS 20B/120B в следующих регионах AWS: Восток США (Северная Вирджиния, Огайо), Запад США (Орегон), Азиатско-Тихоокеанский регион (Токио, Мумбаи), Южная Америка (Сан-Паулу) и Европа (Ирландия, Лондон и Милан). Скоро появится поддержка и других моделей и регионов.
Для начала ознакомьтесь с документацией сервиса.