Amazon CloudWatch に生成 AI オブザーバビリティが追加 (プレビュー)
Amazon CloudWatch で、Amazon Bedrock AgentCore (プレビュー) でデプロイおよび運用されるエージェントを含む、生成 AI アプリケーションとワークロードを観察できるようになり、AI のパフォーマンス、健全性、精度に関するインサイトを得ることができます。AI ワークロードのレイテンシー、使用状況、エラーをすぐに把握できるため、モデル呼び出しやエージェントなどのコンポーネントの問題をより迅速に検出できます。また、ナレッジベース、ツール、モデルなどのコンポーネントのエンドツーエンドのプロンプトトレースにより、問題をすばやく見つけることができます。この機能は、Strands Agents、LangChain、LangGraph などの一般的な生成 AI オーケストレーションフレームワークと互換性があり、フレームワークを柔軟に選択できます。
Amazon CloudWatch はこの新機能を使用して生成 AI アプリケーションのコンポーネント全体でテレメトリデータを分析でき、エラーの原因を迅速に特定するのに役立ちます。たとえば、エンドツーエンドのプロンプトトレース、厳選されたメトリクス、ログを使用して、VectorDB のギャップによるものであれ、不完全な RAG システムの再試行によるものであれ、不正確な応答の原因を特定できます。コンポーネントの相互作用を一元的に把握することで、開発者はワークロードをより迅速に最適化し、高レベルの可用性、精度、信頼性、品質を実現できます。開発者は、エージェントのフリートを 1 か所でモニタリングおよび評価することで、AI エージェントをスムーズに稼働させ続けることができます。エージェントがキュレーションしたビューは、genAI オブザーバビリティのための CloudWatch コンソールの [AgentCore] タブで確認できます。生成 AI のオブザーバビリティは、Application Signals、アラーム、ダッシュボード、機密データ保護、Logs Insights などの他の CloudWatch 機能と統合されているため、既存のオブザーバビリティツールを生成 AI ワークロードを監視するためにシームレスに拡張できます。
この機能は、米国東部 (オハイオ)、米国東部 (バージニア北部)、米国西部 (オレゴン)、欧州 (フランクフルト)、およびアジアパシフィック (シドニー) の 4 つのリージョンでプレビューを利用できます。詳細については、ドキュメントをご覧ください。CloudWatch の料金は、収集および保存されたテレメトリデータに対して適用されます。