Amazon Bedrock amplía el soporte para la atribución de uso a nivel de la solicitud
Los clientes de Amazon Bedrock ahora pueden atribuir el uso de inferencia de modelos a equipos, aplicaciones, entornos y experimentos específicos a nivel de la solicitud individual en las API InvokeModel e InvokeModelWithResponseStream. Esto brinda a los clientes una visibilidad detallada de cómo se distribuye su uso de Amazon Bedrock en su organización, lo que les ayuda
a comprender los patrones de consumo, optimizar el gasto e informar sobre el uso a las partes interesadas internas sin aprovisionar recursos adicionales.
Este lanzamiento se basa en la cartera actual de capacidades de atribución de uso de Amazon Bedrock. Los clientes ya pueden atribuir el uso de la inferencia de modelos a nivel de recursos e identidad mediante los perfiles de inferencia de aplicaciones, la atribución basada en los elementos principales de IAM, el seguimiento a nivel de proyecto en el punto de enlace bedrock-mantle compatible con OpenAI y el seguimiento a nivel del espacio de trabajo para
modelos de Anthropic Claude. Para una atribución más precisa por solicitud, las API de Converse y ConversStream admiten metadatos a nivel de solicitud desde su lanzamiento. La versión actual brinda la misma capacidad a las API InvokeModel e InvokeModelWithResponseStream, lo que ofrece a los clientes una forma uniforme de etiquetar las llamadas de inferencia en todo el punto de enlace bedrock-runtime.
Con este lanzamiento, los clientes pueden etiquetar cada llamada de inferencia de modelos de Amazon Bedrock con atributos como equipo, proyecto o entorno, y analizar el uso de estas etiquetas en los registros de invocación del modelo de Amazon Bedrock. Para empezar, habilite el registro de invocación de modelos en la región de AWS en la que llame a Amazon Bedrock y, a continuación, añada metadatos a sus solicitudes de inferencia. Esta característica está disponible en todas las regiones comerciales de AWS en las que Amazon Bedrock está disponible. Para obtener más información, consulte Solicitar metadatos.