Amazon Bedrock 的防护机制现在可以使用任何基础模型检测幻觉并保护应用程序
Amazon Bedrock 的防护机制使客户能够根据其应用程序要求和负责任的 AI 策略实施保障措施。如今,防护机制增加了情境化基础检查,并引入了新的 ApplyGuardrail API,以使用任何基础模型 (FM) 构建值得信赖的生成式 AI 应用程序。
客户依赖于基础模型的固有功能,可根据公司的源数据生成可靠(可信)的响应。但是,基础模型可能会混淆多条信息,产生不正确的信息或新的信息,从而影响应用程序的可靠性。通过情境化基础检查,防护机制现在可以在 RAG(检索增强生成)和对话应用程序的模型响应中检测幻觉。这种保护措施有助于检测和筛选基于参考来源的事实错误或与用户查询无关的响应。客户可以配置置信度阈值,以筛选置信度较低的基础或相关性的响应。
此外,为了支持选择使用不同基础模型来保护应用程序,除了 Amazon Bedrock 已经支持的基础模型之外,防护机制现在还支持使用 ApplyGuardRail API 对任何自定义和第三方基础模型的用户输入和模型响应进行评估。ApplyGuardrail API 现在可以为所有生成式 AI 应用程序提供集中式安全和治理。
Guardrails 是由主要云提供商在单一解决方案中提供安全、隐私和真实性保护的唯一产品/服务。所有支持 Amazon Bedrock 的防护机制的 AWS 区域都支持情境化基础检查和 ApplyGuardrail API。
要详细了解 Amazon Bedrock 的防护机制,请访问功能页面并阅读新闻博客。