Amazon CloudWatch Application Signals est désormais compatible avec Amazon Bedrock

Publié le: 7 août 2024

Amazon CloudWatch Application Signals prend désormais en charge Amazon Bedrock, ce qui permet aux utilisateurs de résoudre les erreurs et de ralentir les performances dans les applications d'IA générative. Amazon Bedrock est un service entièrement géré qui propose des modèles de fondation (FM) conçus par des sociétés d'IA de premier plan, telles qu'Anthropic, Meta et Amazon, ainsi que d'autres outils pour créer des applications d'IA générative. Pour les utilisateurs dont les applications d'IA générative s'appuient sur Bedrock FM, cette amélioration permet de mieux comprendre comment les défaillances, telles que les exceptions de validation des modèles, ou l'impact de la latence dans différents modèles sur l'expérience de l'utilisateur final.

Application Signals fournit des tableaux de bord prêts à l'emploi pour corréler la télémétrie entre les métriques, les traces, les journaux, la surveillance des utilisateurs réels et la surveillance synthétique de votre application et de ses dépendances, comme Amazon Simple Queue Service (SQS), Amazon S3 ou Amazon Bedrock, accélérant ainsi la résolution des problèmes d'interruption des applications. Par exemple, un développeur d'applications exploitant une application de grand modèle de langage (LLM) qui invoque Bedrock FM peut vérifier si son API de support client rencontre des problèmes. Il peut ensuite explorer la trace corrélée avec précision qui a contribué à l'erreur, ainsi que les journaux corrélés, pour en déterminer la cause première, telle que des entrées de modèle non valides ou des temps de réponse longs des LLM, entraînant une mauvaise expérience pour l'utilisateur final. Le suivi des performances des modèles au sein de votre application vous permet d'évaluer différents modèles et de choisir celui qui convient le mieux à votre cas d'utilisation, en optimisant les coûts et l'expérience client.

Pour en savoir plus, consultez la documentation et activez Amazon CloudWatch Application Signals sur vos applications qui interagissent avec les modèles Amazon Bedrock. Pour essayer Application Signals sur un exemple d'application, rendez-vous dans l’atelier AWS One Observability.