Amazon Bedrock 防護機制現在支援跨區域推論
Amazon Bedrock 防護機制宣布支援跨區域推論,這是一項選擇性功能,可讓客戶透過跨不同 AWS 區域的運算,順暢地管理流量激增的情況。
Bedrock 防護機制提供可設定的安全措施,協助偵測和阻止有害的內容和提示攻擊,定義主題以拒絕和禁止特定主題,並且協助編輯來自輸入提示和模型回應的個人身分識別資訊 (PII),例如個人資料。此外,Bedrock 防護機制有助於偵測和阻止模型幻覺,並使用自動推理檢查以識別、糾正和解釋模型回應中的事實主張。防護機制可在任何基礎模型上套用,包括使用 Amazon Bedrock 託管的模型、自我託管模型以及 Bedrock 之外使用 ApplyGuardrail API 的第三方模型,進而提供一致的使用者體驗,並協助標準化安全和隱私控制項。
藉由使用跨區域推論,Amazon Bedrock 防護機制客戶將能夠在高峰需求期間獲得一致的輸送量和增強的彈性。透過選擇加入,客戶不再需要花費時間和精力預測需求波動。相反的,跨區域推論會在多個區域中動態路由流量,確保每個請求都具有最佳的可用性,並在使用量較高的期間提供更順暢的效能。
使用 Amazon Bedrock 防護機制進行跨區域推論無需額外的路由成本。請在此處尋找受支援區域的清單。
若要進一步了解該功能以及如何開始使用,請參閱技術文件。