Amazon Bedrock 為 OpenAI 和 Anthropic 相容的 API 新增 Amazon CloudWatch 指標
Amazon Bedrock 為全受管服務，提供安全且企業級的管道，讓使用者存取領先 AI 公司的高效能基礎模型，協助您建置並擴展生成式 AI 應用程式。Amazon Bedrock 客戶現在能夠使用 Amazon CloudWatch 指標來監控前往 bedrock-mantle 端點的推論流量，這與針對 bedrock-runtime 端點和其他 AWS 服務採用的方式相同。Bedrock-mantle 端點支援 OpenAI Responses API、OpenAI Chat Completions API 和 Anthropic Messages API，使客戶得以將程式碼變更限制在最小程度的情況下，於 Amazon Bedrock 上執行現有的 OpenAI 或 Anthropic 型應用程式。
Bedrock-mantle 端點的 CloudWatch 指標是在 AWS/BedrockMantle 命名空間下發佈，並包括推論計數、輸入和輸出字符總和以及客戶端錯誤計數功能。指標會在多個精細層級發佈，包括帳戶、專案、模型以及專案與模型，因此客戶能夠將使用量和成本歸因給正確的工作負載和團隊。
在此版本推出後，客戶就能監控生產推論、設定警報，以及在 bedrock-mantle 端點上規劃容量。若要著手使用，請開啟 Amazon CloudWatch 主控台，選擇「指標」，然後選取 AWS/BedRockMantle 命名空間來檢視您帳戶的指標。Bedrock-mantle 端點的 CloudWatch 指標適用於下列提供該端點的所有 AWS 區域：美國東部 (維吉尼亞北部、俄亥俄)、美國西部 (奧勒岡)、亞太地區 (雅加達、孟買、雪梨、東京)、歐洲 (法蘭克福、愛爾蘭、倫敦、米蘭、斯德哥爾摩) 和南美洲 (聖保羅)。若要進一步了解，請參閱 bedrock-mantle 端點的 CloudWatch 指標。