Amazon Bedrock に OpenAI および Anthropic 互換 API の Amazon CloudWatch メトリクスが追加されました
Amazon Bedrock は完全マネージド型サービスで、大手の AI 企業が提供する高性能な基盤モデルへのセキュアなエンタープライズグレードのアクセスを提供し、生成 AI アプリケーションの構築とスケールを可能にします。Amazon Bedrock を利用するお客様は、bedrock-runtime エンドポイントや AWS の他のサービスと同様に、Amazon CloudWatch メトリクスを用いて bedrock-mantle エンドポイントへの推論トラフィックをモニタリングできるようになりました。bedrock-mantle エンドポイントでは OpenAI Responses API、OpenAI Chat Completions API、Anthropic Messages API がサポートされているため、お客様は Amazon Bedrock 上で OpenAI ベースまたは Anthropic ベースの既存のアプリケーションを最小限のコード変更で実行できます。
bedrock-mantle エンドポイント用の CloudWatch メトリクスは AWS/BedrockMantle 名前空間で発行され、推論数、入力トークンと出力トークンの合計、クライアントエラー数が含まれます。メトリクスの発行は、アカウント、プロジェクト、モデル、プロジェクトとモデルの組み合わせといった複数の粒度で行われるため、お客様は使用状況やコストを、適切なワークロードやチームに結びつけることができます。
本リリースにより、お客様は bedrock-mantle エンドポイントで本番稼働の推論のモニタリング、アラームの設定、キャパシティの計画を行えるようになります。使用を開始するには、Amazon CloudWatch コンソールを開いて [メトリクス] を選択し、AWS/BedrockMantle 名前空間を選択してアカウントのメトリクスを表示します。bedrock-mantle エンドポイント用の CloudWatch メトリクスは、エンドポイントが提供されている米国東部 (バージニア北部、オハイオ)、米国西部 (オレゴン)、アジアパシフィック (ジャカルタ、ムンバイ、シドニー、東京)、欧州 (フランクフルト、アイルランド、ロンドン、ミラノ、ストックホルム)、南米 (サンパウロ) の全 AWS リージョンでご利用いただけます。詳細については、bedrock-mantle エンドポイント用の CloudWatch メトリクスを参照してください。