Amazon Bedrock 防护机制现已提供自动推理检查功能

发布于: 2025年8月6日

AWS 宣布正式推出自动推理检查功能，这是 Amazon Bedrock 防护机制中的一项安全防护功能，它使用形式验证技术来验证生成式人工智能模型输出的准确性和政策合规性。自动推理检查功能在检测来自 LLM 的正确响应时准确率高达 99%，它既能在检测 AI 幻觉方面为您提供可证明的保证，又能帮助检测模型响应中的歧义问题。

自动推理检查功能提供了一种与传统测试方法截然不同的方法。与对输出进行质量采样不同，自动推理检查功能在数学上可提供严格的保证，确保 AI 响应符合已定义的业务规则和领域知识。这对于监管行业中需要在部署前明确验证 AI 输出的企业来说尤其有价值。

Amazon Bedrock 防护机制中的自动推理检查功能现已在美国（弗吉尼亚州北部）、美国（俄亥俄州）、美国（俄勒冈州）、欧洲地区（法兰克福）、欧洲地区（爱尔兰）和欧洲地区（巴黎）区域全面推出。客户可以通过 Amazon Bedrock 控制台以及 Amazon Bedrock Python SDK 访问该服务。

要详细了解自动推理检查功能以及如何将其集成到生成式人工智能工作流程中，请访问 Amazon Bedrock 文档。您也可以联系您的 AWS 账户团队或 AWS 解决方案架构师，讨论您的具体使用案例和要求。对 CloudFormation 的支持即将推出。阅读新闻博客、查看文档或访问防护机制网页以了解更多信息。