Amazon Bedrock теперь поддерживает пакетный вывод для моделей Anthropic Claude Sonnet 4 и OpenAI GPT-OSS
В сервисе Amazon Bedrock теперь доступен пакетный вывод с использованием моделей Claude Sonnet 4 от Anthropic и GPT-OSS 120B и 20B от OpenAI. Используя пакетный вывод, можно запускать множество запросов логического вывода в асинхронном режиме, получая более высокую производительность для больших наборов данных и на 50 % меньшую стоимость, чем при выводе по требованию. Amazon Bedrock предлагает набор базовых моделей (FM) для пакетного вывода от ведущих поставщиков искусственного интеллекта, таких как Anthropic, OpenAI, Meta и Amazon, что упрощает и удешевляет обработку большого объема рабочих нагрузок.
Возможности пакетного вывода моделей Claude Sonnet 4 и OpenAI GPT-OSS позволяют обрабатывать большие наборы данных в любом масштабе при меньших затратах для таких сценариев, как анализ документов и отзывов клиентов, генерация больших объемов контента (например, рекламных текстов и описаний продуктов), крупномасштабная оценка текстовых запросов или выходных данных, автоматическое резюмирование содержимого баз знаний и архивов, категоризация множества электронных писем или заявок в службу поддержки, а также извлечение структурированных данных из неструктурированного текста. Совокупная пропускная способность пакетного вывода для этих новых моделей в наших решениях была оптимизирована по сравнению с прошлыми моделями. Кроме того, появилась возможность отслеживать ход выполнения рабочих нагрузок пакетного вывода на уровне аккаунтов AWS с использованием метрик Amazon CloudWatch. Эти метрики включают общее количество еще не обработанных записей, обработанных записей и токенов в минуту для всех моделей, а для моделей Claude – также количество еще не обработанных токенов.
Подробнее см. документацию по пакетному выводу в Amazon Bedrock. Дополнительные сведения о поддерживаемых моделях см. на странице Поддерживаемые регионы и модели для пакетного вывода, а чтобы начать работу с пакетным выводом, воспользуйтесь справочником по API для Amazon Bedrock.