Amazon Bedrock étend la prise en charge de l’attribution de l’utilisation au niveau de la demande
Les clients d’Amazon Bedrock peuvent désormais attribuer l’utilisation de l’inférence de modèles à des équipes, des applications, des environnements et des expériences spécifiques au niveau de la demande individuelle sur les API InvokeModel et InvokeModelWithResponseStream. Cela donne aux clients une visibilité précise sur la manière dont leur utilisation d’Amazon Bedrock est distribuée au sein de leur organisation, ce qui les aide
à comprendre les habitudes de consommation, optimiser les dépenses et signaler l’utilisation aux parties prenantes internes sans allouer de ressources supplémentaires.
Ce lancement s’appuie sur le portefeuille existant de fonctionnalités d’attribution d’utilisation d’Amazon Bedrock. Les clients peuvent déjà attribuer l’utilisation de l’inférence des modèles au niveau des ressources et de l’identité à l’aide de profils d’inférence d’applications, d’une attribution basée sur le principal IAM, d’un suivi au niveau du projet sur le point de terminaison bedrock-mantle compatible avec OpenAI et d’un suivi au niveau de l’espace de travail pour
modèles Claude d’Anthropic. Pour une attribution plus précise, par demande, les API Converse et ConverseStream prennent en charge les métadonnées au niveau de la demande depuis leur lancement. La version d’aujourd’hui apporte les mêmes fonctionnalités aux API InvokeModel et InvokeModelWithResponseStream, offrant aux clients un moyen cohérent de baliser les appels d’inférence sur l’ensemble du point de terminaison bedrock-runtime.
Grâce à ce lancement, les clients peuvent baliser chaque appel d’inférence de modèle Amazon Bedrock avec des attributs tels que l’équipe, le projet ou l’environnement, et analyser l’utilisation de ces balises dans les journaux d’invocation du modèle Amazon Bedrock. Pour commencer, activez la journalisation des invocations de modèles dans la Région AWS où vous appelez Amazon Bedrock, puis ajoutez des métadonnées à vos demandes d’inférence. Cette fonctionnalité est disponible dans toutes les régions commerciales AWS où Amazon Bedrock est disponible. Pour en savoir plus, consultez la section Demander des métadonnées.