Amazon Bedrock 为兼容 OpenAI 和 Anthropic 的 API 添加了 Amazon CloudWatch 指标
Amazon Bedrock 是一项完全托管的服务，提供对领先人工智能公司高性能基础模型的安全企业级访问，使您能够构建和扩展生成式人工智能应用程序。Amazon Bedrock 客户现在可以使用 Amazon CloudWatch 指标监控流向 bedrock-mantle 端点的推理流量，其操作方式与监控 bedrock-runtime 端点及其他 AWS 服务时完全相同。bedrock-mantle 端点支持 OpenAI Responses API、OpenAI Chat Completions API 和 Anthropic Messages API，客户只需进行少量代码修改，即可在 Amazon Bedrock 上运行现有的基于 OpenAI 或 Anthropic 的应用程序。
bedrock-mantle 端点的 CloudWatch 指标发布在 AWS/BedrockMantle 命名空间下，包括推理计数、输入和输出令牌总数以及客户端错误计数。指标以多个粒度级别发布，包括账户、项目、模型以及项目与模型组合，以便客户能够将使用量和成本准确归因于相应的工作负载和团队。
此次发布后，客户可以在 bedrock-mantle 端点上监控生产推理、设置警报并规划容量。要开始使用，请打开 Amazon CloudWatch 控制台，选择 Metrics（指标），然后选择 AWS/BedrockMantle 命名空间来查看您账户的指标。bedrock-mantle 端点的 CloudWatch 指标已在提供该端点的所有 AWS 区域推出：美国东部（弗吉尼亚州北部、俄亥俄州）、美国西部（俄勒冈州）、亚太地区（雅加达、孟买、悉尼、东京）、欧洲地区（法兰克福、爱尔兰、伦敦、米兰、斯德哥尔摩）和南美洲（圣保罗）。要了解更多信息，请参阅 bedrock-mantle 端点的 CloudWatch 指标。