生成式 AI 可觀測性現已正式在 Amazon CloudWatch 上推出
Amazon CloudWatch 宣佈正式推出生成式 AI 可觀測性，可協助您監控 AI 應用程式和工作負載的所有元件，包括使用 Amazon Bedrock AgentCore 部署和操作的代理程式。此版本不僅可讓您監控執行時期，還包括 AgentCore 內建工具、閘道、記憶體和身分功能的完整可觀測性。DevOps 團隊和開發人員現在能夠取得立即可用的檢視，以了解 AI 工作負載 (從模型調用到代理程式作業) 所有元件的延遲、字符使用情況、錯誤和效能。此功能與常見的生成式 AI 協同運作架構 (例如 Strands Agents，LangChain 和 LangGraph) 相容，可為您選擇的架構帶來靈活性。
有了這項新功能，CloudWatch 使開發人員能夠分析生成式 AI 應用程式元件之間的遙測資料。客戶可以在內建工具中監控程式碼執行模式、透過閘道追蹤 API 轉換成功率、分析記憶體儲存和擷取模式，並透過身分可觀測性確保安全代理程式行為。連線檢視可協助開發人員使用端對端提示追蹤、精選指標和日誌，快速識別從 VectorDB 缺口到驗證失敗等一系列問題。開發人員可透過 CloudWatch 主控台中的「AgentCore」區段監控其整個代理程式機群，該區段與其他 CloudWatch 功能順暢整合，包括 Application Signals、警示、敏感資料保護和 Logs Insights。
此功能現已適用於美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (奧勒岡)、歐洲 (法蘭克福)、歐洲 (愛爾蘭)、亞太地區 (孟買)、亞太地區 (東京)、亞太地區 (新加坡) 和亞太地區 (雪梨)。
若要進一步了解，請瀏覽文件。使用生成式 AI 可觀測性無需額外費用，但基礎遙測資料適用現有 CloudWatch 定價。