Amazon Q Business 推出对聊天回复中幻觉缓解的支持

发布于: 2025年4月14日

今天，Amazon Q Business 推出了一项功能，用于减少聊天回复中的幻觉。“幻觉”是指生成式 AI 应用程序生成的内容看似可信，但实际上并未从其底层数据中得到充分支持。这项新功能使客户能够在聊天对话过程中实时缓解幻觉现象。

尽管支撑生成式 AI 应用程序的底层大型语言模型 (LLM) 已经降低了回复中幻觉的发生频率，但这些模型仍有可能产生幻觉。因此，需要缓解幻觉以确保生成回复的可靠性和可信度。Q Business 幻觉缓解功能有助于确保从连接到应用程序的数据中获得更准确的检索增强生成 (RAG) 回复。这些数据可能来自已连接的数据来源，也可能来自聊天期间上传的文件。聊天期间，Q Business 会评估回复中的幻觉。如果以高置信度检测到幻觉，它会在聊天期间实时纠正其回复中的不一致内容，并生成一条经过编辑的新消息。

Amazon Q Business 的这项功能在已推出 Q Business 的所有区域提供。客户在选择使用此功能时，可以通过 API 或通过 Amazon Q 控制台启用它。有关更多详细信息，请参阅文档。有关 Amazon Q Business 及其各项功能的更多信息，请访问 Amazon Q 产品页面。