Amazon Bedrock 扩展了对服务配额的支持
Amazon Bedrock 是一项完全托管的服务,提供对领先人工智能公司高性能基础模型的安全企业级访问,使您能够构建和扩展生成式人工智能应用程序。Amazon Bedrock 客户现在可通过 AWS 服务配额来查看 bedrock-mantle 端点的推理配额。这为客户提供了熟悉且统一的端点限额跟踪方式(与 bedrock-runtime 端点及其他 AWS 服务的体验一致),让他们能清晰了解适用于自身工作负载的限额。
bedrock-mantle 端点支持 OpenAI Responses API、OpenAI Chat Completions API 和 Anthropic Messages API,客户只需进行少量代码修改,即可在 Amazon Bedrock 上运行现有的基于 OpenAI 或 Anthropic 的应用程序。AWS 服务配额现已公开端点上所支持模型的单模型每分钟输入令牌数配额和每分钟输出令牌数配额。
通过此次发布,客户能够清楚地了解其在 bedrock-mantle 端点上的配额,并能够主动规划以扩大生产规模。要开始使用,请打开 AWS 服务配额控制台,选择 Amazon Bedrock,然后搜索“Bedrock Mantle”以查看当前配额。要申请提高任意一项配额,请按照标准 Amazon Bedrock 限额提高流程进行操作。针对 bedrock-mantle 端点的服务配额支持已在提供该端点的所有 AWS 区域推出:美国东部(弗吉尼亚州北部、俄亥俄州)、美国西部(俄勒冈州)、亚太地区(孟买、东京、悉尼、雅加达)、欧洲地区(法兰克福、爱尔兰、伦敦、米兰、斯德哥尔摩)和南美洲(圣保罗)。要了解更多信息,请参阅 Amazon Bedrock 配额。