OpenAI GPT-6 Astra теперь поддерживает режим UltraFast в Amazon Bedrock
Сегодня AWS объявляет о доступности режима UltraFast для GPT-6 Astra от OpenAI в Amazon Bedrock. UltraFast – это премиальный уровень скорости для GPT-6 Astra, созданный для рабочих нагрузок, где скорость имеет наибольшее значение. Согласно OpenAI, UltraFast обеспечивает максимум в 6 раз более быстрый вывод в API – до 300 токенов в секунду. Механизм логического вывода Amazon Bedrock обеспечивает производительность, безопасность и надежность, необходимые для производственных рабочих нагрузок.
Используйте GPT-6 Astra UltraFast для приложений, чувствительных к задержкам, таких как помощники по кодированию в реальном времени, интерактивные агенты и приложения, ориентированные на клиентов, которые требуют быстрых и высококачественных ответов. Установленные средства управления AWS помогают защищать рабочие нагрузки, управлять доступом и проверять активность вызовов моделей.
Начать работу можно с консоли Amazon Bedrock или программно через поддерживаемые API Amazon Bedrock. Сведения о поддерживаемых регионах AWS, адресах, API, функциях, профилях вывода и стоимости см. в документации по Amazon Bedrock.