Amazon Bedrock Guardrails 現在支援自動推理檢查 (預覽)
隨著 Amazon Bedrock Guardrails 推出自動推理檢查保護措施,AWS 成為第一家,也是唯一一家將自動推理整合到生成式 AI 供應項目的主要雲端供應商。自動推理檢查有助於偵測幻覺,並提供可驗證的證據,證明大型語言模型 (LLM) 的回應是準確的。自動推理工具不會猜測或預測準確性。相反地,他們依靠健全的數學技術,來確實驗證是否遵守專家建立的自動推理政策,進而提高透明度。越來越多組織使用 LLM 來改善使用者體驗,透過對話方式存取相關的情境化資訊,來降低營運成本。然而,LLM 容易出現幻覺。LLM 能夠產生很有說服力的答案,因此通常很難發現這些幻覺。幻覺的可能性,以及無法解釋幻覺發生的原因,使在準確性至關重要的使用案例中拖慢了生成式 AI 的採用速度。
藉助自動推理檢查,領域專家可以更輕鬆地構立名為自動推理政策的規格,可以在作業工作流程和人力資源政策等領域中概括其知識。Amazon Bedrock Guardrails 的使用者可以根據自動推理政策驗證產生的內容,以識別不準確和未陳述的假設,並以可驗證的方式解釋為什麼陳述是準確的。例如,您可以設定自動推理檢查,以驗證複雜人力資源政策中定義的主題 (可能包括員工任期、地點和績效的限制) 的答案,並透過支持性證據解釋答案為何準確。
聯絡 AWS 帳戶團隊,請求在美國東部 (維吉尼亞北部) 和美國西部 (奧勒岡) AWS 區域的 Amazon Bedrock Guardrails 的自動推理檢查存取權限。若要進一步了解,請造訪 Amazon Bedrock Guardrails 並閱讀新聞部落格。