Amazon Bedrock 防护机制宣布提高服务配额限制

发布于: 2025年2月25日

Amazon Bedrock 防护机制宣布提高默认服务配额限制,使您能够为更高的流量扩展生成式 AI 应用程序。Bedrock 防护机制提供可配置的保护措施,用于过滤不同类别和提示攻击中的不良和有害内容,使用主题过滤器定义和禁止特定主题,使用敏感信息过滤器编辑个人身份信息 (PII),使用词语过滤器屏蔽特定词语,并通过检测模型响应的基础和相关性来检测模型幻觉,以及使用自动推理来识别、更正和解释模型响应中的事实性主张。这些策略可以根据您的特定使用案例和响应式 AI 策略进行定制。防护机制可以应用于任何基础模型,包括由 Amazon Bedrock 托管的模型、自托管模型以及使用 ApplyGuardrail API 的第三方模型,从而提供一致的用户体验,并实现安全和隐私控制的标准化。

即日起,Bedrock 防护机制使您能够通过增加服务配额限制来扩展生成式 AI 应用程序,以处理更高的流量负载,这有助于处理更高的每秒事务数 (TPS) 和更高的每秒文本单元数 (TUPS)。随着配额的增加,您现在可以使用 ApplyGuardrail API 每秒处理多达 50 个调用,此为之前每秒 25 个调用限制的两倍。内容过滤器、敏感信息过滤器和词语过滤器现在可以处理多达 200 个 TUPS,此为之前 25 个 TUPS 限制的 8 倍。

这些限制适用于美国东部(弗吉尼亚州北部)和美国西部(俄勒冈州)AWS 区域。

要了解更多信息,请参阅技术文档Bedrock 防护机制产品页面