Amazon Bedrock Guardrails 现在支持自动推理检查(预览版)

发布于: 2024年12月3日

随着 Amazon Bedrock Guardrails 中自动推理检查保障措施的推出,AWS 成为第一家也是唯一一家将自动推理集成到我们的生成式人工智能产品中的主要云提供商。自动推理检查有助于检测幻觉,并提供可验证的证据,证明大型语言模型(LLM)的响应是准确的。自动推理工具不会猜测或预测准确性。相反,他们采用可靠的数学方法来明确验证结果是否符合专家制定的自动推理策略,从而提高透明度。各组织越来越多地使用 LLM 来通过对话方式获取相关的情境化信息,从而改善用户体验并降低运营成本。但是,LLM 容易产生幻觉。因为 LLM 能够生成令人信服的答案,所以这些幻觉通常很难被发现。可能产生幻觉并且无法解释其发生原因,会减缓生成式人工智能在准确性至关重要的应用场景中的采用。

通过自动推理检查,领域专家可以更轻松地制定名为自动推理策略的规范,这些规范汇总了其在运营工作流程和人力资源政策等领域的知识。Amazon Bedrock Guardrails 的用户可以根据自动推理策略验证生成的内容,以识别不准确之处和未阐明的假设,并以可验证的方式解释陈述为何是准确的。例如,您可以配置自动推理检查,以验证复杂的人力资源政策(可能包括对员工任期、工作地点和绩效的限制)中定义的主题的答案,并使用支持证据解释答案为何是准确的。

联系您的 AWS 账户团队,以请求在美国东部(弗吉尼亚州北部)和美国西部(俄勒冈州)AWS 区域在 Amazon Bedrock Guardrails 中使用自动推理检查。要了解更多信息,请访问 Amazon Bedrock Guardrails 并阅读新闻博客