Amazon CloudWatch ajoute l'observabilité de l'IA générative (version préliminaire)
Amazon CloudWatch vous permet désormais d'observer les applications et les charges de travail d'IA générative, y compris les agents déployés et gérés avec Amazon Bedrock AgentCore (version préliminaire), en fournissant des informations sur les performances, l'état et la précision de l'IA. Vous bénéficiez d'une vue prête à l'emploi de la latence, de l'utilisation et des erreurs de vos charges de travail d'IA afin de détecter plus rapidement les problèmes liés à des composants tels que les appels de modèles et les agents. Vous pouvez également détecter les problèmes plus rapidement grâce au suivi rapide de bout en bout des composants tels que les bases de connaissances, les outils et les modèles. Cette fonctionnalité est compatible avec les frameworks d'orchestration d'IA générative populaires tels que Strands Agents, LangChain et LangGraph, ce qui vous donne de la flexibilité quant à votre choix de framework.
Grâce à cette nouvelle fonctionnalité, Amazon CloudWatch analyse les données de télémétrie provenant des composants d'une application d'IA générative, ce qui permet d'identifier rapidement la source des erreurs. Par exemple, vous pouvez identifier la source des réponses inexactes, qu'il s'agisse de lacunes dans votre VectorDB ou de recherches incomplètes dans le système RAG, à l'aide d'un suivi rapide de bout en bout, de métriques et de journaux sélectionnés. Cette vue connectée des interactions entre les composants aide les développeurs à optimiser les charges de travail plus rapidement afin de garantir des niveaux élevés de disponibilité, de précision, de fiabilité et de qualité. Les développeurs peuvent assurer le bon fonctionnement des agents d'IA en surveillant et en évaluant la flotte d'agents depuis un seul endroit. La vue sélectionnée par les agents est disponible dans l'onglet « AgentCore » de la console CloudWatch pour l'observabilité de la GenAI. L'observabilité de l'IA générative est intégrée à d'autres fonctionnalités de CloudWatch, telles que les signaux d'application, les alarmes, les tableaux de bord, la protection des données sensibles et les insights des journaux, ce qui vous permet d'étendre de manière fluide les outils d'observabilité existants pour surveiller les charges de travail génératives d'IA.
Cette fonctionnalité est disponible en version préliminaire dans quatre régions : USA Est (Virginie du Nord), USA Ouest (Oregon), Europe (Francfort) et Asie-Pacifique (Sydney). Pour en savoir plus, consultez la documentation. La tarification de CloudWatch s'applique aux données de télémétrie collectées et stockées.