Поддержка атрибуции использования в Amazon Bedrock расширена до уровня запросов
Клиенты Amazon Bedrock теперь могут атрибутировать использование логического вывода моделей конкретным группам, приложениям, средам и экспериментам на уровне отдельных запросов в API-интерфейсах InvokeModel и InvokeModelWithResponseStream. Это позволяет клиентам детально отслеживать, как использование Amazon Bedrock распределяется в масштабе организации, помогая им
анализировать схемы потребления, оптимизировать затраты и отчитываться о потреблении внутренним ответственным лицам без необходимости выделения дополнительных ресурсов.
Данная функция внедряется на базе уже существующего портфеля возможностей по атрибуции использования в Amazon Bedrock. Клиенты уже имеют возможность атрибутировать использование вывода моделей на уровне ресурсов и удостоверений, используя профили вывода приложений, атрибуцию на основе доверителей IAM, отслеживание на уровне проектов для адресов bedrock-mantle, совместимых с OpenAI, и отслеживание на уровне рабочих пространств для
моделей Anthropic Claude. Для более детальной атрибуции по каждому запросу API-интерфейсы Converse и ConverseStream уже с момента запуска поддерживают метаданные на уровне запросов. Сегодняшний выпуск предоставляет эти же возможности в API InvokeModel и InvokeModelWithResponseStream, что позволяет клиентам единообразно маркировать все вызовы логического вывода в масштабе адреса bedrock-runtime.
Используя эту функцию, клиенты могут помечать каждый вызов вывода моделей Amazon Bedrock такими атрибутами, как команда, проект или среда, и анализировать использование по соответствующим тегам в журналах вызова этих моделей. Для начала активируйте ведение журнала вызова моделей в регионе AWS, из которого вы обращаетесь к Amazon Bedrock, а затем добавьте метаданные к своим запросам логического вывода. Эта функция доступна во всех коммерческих регионах AWS, в которых доступен сервис Amazon Bedrock. См. дополнительные сведения о метаданных запроса.