Amazon Bedrock расширяет поддержку API и представляет межрегиональный логический вывод для моделей OpenAI
Amazon Bedrock теперь поддерживает модели OpenAI GPT-5.6 (Sol, Terra и Luna) на адресе bedrock-runtime, а также API-интерфейсы ответов, диалогов и завершений чата. В него также добавлена поддержка межрегионального логического вывода, что позволяет клиентам использовать глобальный и межрегиональный логический вывод для получения доступа к более высокой пропускной способности и снижения затрат на логический вывод.
Межрегиональный логический вывод автоматически направляет запросы на получение логического вывода в несколько регионов AWS, обеспечивая более высокую пропускную способность без необходимости управлять емкостью в нескольких регионах. Логический вывод внутри заданного географического региона с использованием нескольких регионов направляет запросы в заранее заданном географическом регионе, включая новую поддержку US Geo (US CRIS), появившуюся в этом обновлении, поэтому вы можете выполнять масштабирование, сохраняя обработку данных в пределах этого географического региона, в то время как глобальный межрегиональный вывод обслуживает запросы из любого коммерческого региона AWS, в котором доступна модель, обеспечивая самый широкий доступ к пропускной способности Bedrock и максимальную пропускную способность во время пиков спроса. Благодаря глобальному межрегиональному логическому выводу вы также получаете меньшие затраты, поскольку глобальный логический вывод стоит дешевле за токен для моделей OpenAI, чем логический вывод внутри одного региона и логический вывод, ограниченный географическим регионом. Это обновление также расширяет поддержку API – вы также можете использовать модели OpenAI GPT с API ответов, API завершений чатов и API диалогов на адресе bedrock-runtime. Поскольку эти нативные API OpenAI теперь работают в bedrock-runtime, модели работают с теми же средствами управления на уровне аккаунта, которые вы уже используете для других моделей в Bedrock: использование отображается в журнале вызовов модели Bedrock (доступно в Amazon S3 или Журналах Amazon CloudWatch) и в метриках Amazon CloudWatch, включающих количество вызовов, количество токенов, задержки, ограничения и ошибки; кроме того, оно детализируется в Обозревателе затрат AWS и отчете о расходах и использовании AWS, поэтому вы можете распределить расходы по моделям.
Межрегиональный логический вывод моделей OpenAI доступен во всех регионах AWS, в которых предлагаются модели OpenAI в Amazon Bedrock. Для начала работы ознакомьтесь с карточками модели для GPT-5.6 (Sol, Terra и Luna) в Руководстве пользователя Amazon Bedrock.