Amazon CloudWatch Application Signals 現在支援 Amazon Bedrock

張貼日期: 2024年8月7日

Amazon CloudWatch Application Signals 現在支援 Amazon Bedrock，可讓使用者對生成式 AI 應用程式的錯誤和緩慢效能進行疑難排解。Amazon Bedrock 是一項全受管的服務，提供由領先的 AI 公司 (如 Anthropic、Meta 和 Amazon) 建置的基礎模型 (FM)，以及用於建置生成式 AI 應用程式的其他工具。如果使用者採用的生成式 AI 應用程式仰賴 Bedrock FM，此增強功能可讓您更深入探究如模型驗證例外情況的失敗或不同模型的延遲如何影響最終使用者體驗。

Application Signals 提供立即可用的儀表板，可用於關聯您應用程式及其相依項 (例如 Amazon Simple Queue Service (SQS)、Amazon S3 或 Amazon Bedrock) 的指標、追蹤、日誌、即時使用者監控和綜合監控之間的遙測，並加速應用程式中斷的疑難排解。例如，操作 LLM (大型語言模型) 應用程式調用 Bedrock FM 的應用程式開發人員可以追蹤其客戶支援 API 是否遇到任何問題。然後他們可以深入探究造成錯誤的精準關聯追溯軌跡及相關日誌，以確定導致不佳的終端使用者體驗的根本原因，例如無效的模型輸入或等候 LLM 模型的回應時間過長。追蹤應用程式內的模型效能可讓您評估不同的模型，並為您的使用案例選擇最佳的模型，進而最佳化成本和客戶體驗。

若要進一步了解，請參閱文件，以讓您應用程式的 Amazon CloudWatch Application Signals 與 Amazon Bedrock 模型進行互動。若要透過範例應用程式試用 Application Signals，請造訪 AWS 一次性可觀測性研討會。