Amazon CloudWatch Application Signals 现已支持 Amazon Bedrock

发布于: 2024年8月7日

Amazon CloudWatch Application Signals 现已支持 Amazon Bedrock，使用户能够在生成式 AI 应用程序中排查错误和性能下降的问题。Amazon Bedrock 是一项完全托管的服务，提供由 Anthropic、Meta 和 Amazon 等行业领先的 AI 公司构建的基础模型 (FM)，以及其他用于构建生成式 AI 应用程序的工具。对于使用依赖于 Bedrock FM 的生成式 AI 应用程序的用户，这种增强功能有助于更深入地了解模型验证异常等故障或不同模型中的延迟对最终用户体验的影响。

Application Signals 提供开箱即用的控制面板，用于关联您的应用程序及其依赖项（例如 Amazon Simple Queue Service (SQS)、Amazon S3 或 Amazon Bedrock）的指标、跟踪、日志、真实用户监控和综合监控的遥测数据，帮助您快速排查应用程序中断问题。例如，应用程序开发人员在运行可调用 Bedrock FM 的 LLM（大型语言模型）应用程序时，可以跟踪其客户支持 API 是否遇到了任何问题。然后，他们可以深入查看与错误相关的精确跟踪以及相关日志，以确定根本原因，例如模型输入无效或 LLM 模型的响应时间过长，从而导致最终用户体验不佳。通过跟踪应用程序中的模型性能，您可以评估不同的模型并为您的使用案例选择最佳模型，从而优化成本和客户体验。

要了解更多信息，请参阅相关文档，在与 Amazon Bedrock 模型交互的应用程序上启用 Amazon CloudWatch Application Signals。要在示例应用程序上试用 Application Signals，请参阅 AWS One 可观测性讲习会。