Guardrails for Amazon Bedrock 現在可以使用任何 FM 檢測幻覺並保護應用程式
Guardrails for Amazon Bedrock 可讓客戶根據其應用需求和負責任的 AI 政策實施保護措施。如今,防護機制新增了關聯式接地檢查,並引入了新的 ApplyGuardrail API,可使用任何基礎模型 (FM) 建置可靠的生成式 AI 應用程式。
客戶依賴 FM 的固有能力生成以公司原始資料為基礎的基本 (可靠) 回應。但是,FM 可以合併多個資訊,產生不正確或新的資訊,影響了應用程式的可靠性。利用關聯式接地檢查,Guardrails 現在可以偵測 RAG (擷取擴增產生) 和對話應用程式之模型回應中的幻覺。此防護措施有助於檢測及篩選基於參考源但實際上不正確,且與使用者查詢無關的回應。客戶可以設定信心臨界值,以低可信度的基礎或相關性篩選回應。
此外,為了支援選擇使用不同 FM 保護應用程式,除了 Amazon Bedrock 已支援的 FM,Guardrails 現在還支援 ApplyGuardrail API,以便評估任何自訂和第三方 FM 的使用者輸入和模型回應。ApplyGuardrail API 現在可為您的所有生成式 AI 應用程式提供集中化的安全保障和治理。
Guardrails 是主要雲端供應商的唯一產品,可在單一解決方案中提供安全、隱私和真實性保護。所有支援 Guardrails for Amazon Bedrock 的 AWS 區域都支援關聯式接地檢查和 ApplyGuardrail API。
要進一步瞭解 Guardrails for Amazon Bedrock,請造訪功能頁面並閱讀新聞部落格。