L'observabilité de l'IA générative est désormais disponible pour Amazon CloudWatch
Amazon CloudWatch annonce la disponibilité générale de l'observabilité de l'IA générative, qui vous permet de surveiller tous les composants des applications et des charges de travail d'IA, y compris les agents déployés et exploités avec Amazon Bedrock AgentCore. Cette version va au-delà de la surveillance de l'exécution pour inclure une observabilité complète des outils intégrés, des passerelles, de la mémoire et des fonctionnalités d'identité d'AgentCore. Les développeurs et les équipes DevOps et peuvent désormais obtenir une vue prête à l'emploi de la latence, de l'utilisation des jetons, des erreurs et des performances sur tous les composants de leurs charges de travail d'IA, des invocations de modèles aux opérations des agents. Cette caractéristique est compatible avec les cadres d'orchestration d'IA générative populaires tels que les Agents Strands, LangChain et LangGraph, ce qui vous donne de la flexibilité quant à votre choix de cadre.
Grâce à cette nouvelle caractéristique, CloudWatch permet aux développeurs d'analyser les données de télémétrie provenant des composants d'une application d'IA générative. Les clients peuvent surveiller les modèles d'exécution du code dans les outils intégrés, suivre les taux de réussite de la transformation des API via des passerelles, analyser les modèles de stockage et de récupération de la mémoire et garantir le comportement sécurisé des agents grâce à l'observabilité des identités. La vue connectée aide les développeurs à identifier rapidement les problèmes, qu'il s'agisse de lacunes dans VectorDB ou d'échecs d'authentification, grâce à un suivi rapide de bout en bout, à des métriques organisées et à des journaux. Les développeurs peuvent surveiller l'ensemble de leur flotte d'agents via la section « AgentCore » de la console CloudWatch, qui s'intègre parfaitement aux autres caractéristiques de CloudWatch, notamment la vigie applicative, les alarmes, la protection des données sensibles et Logs Insights.
Cette fonctionnalité est désormais disponible dans les régions USA Est (Virginie du Nord), USA Est (Ohio), USA Ouest (Oregon), Europe (Francfort), Europe (Irlande), Asie-Pacifique (Mumbai), Asie-Pacifique (Tokyo), Asie-Pacifique (Singapour) et Asie-Pacifique (Sydney).
Pour en savoir plus, consultez la documentation. Il n'y a pas de tarification supplémentaire pour l'observabilité de l'IA générative. La tarification CloudWatch existante pour les données de télémétrie sous-jacentes s'applique.