Amazon Bedrock Guardrails 宣布增加服務配額限制

張貼日期: 2025年2月25日

Amazon Bedrock Guardrails 宣布增加預設服務配額限制,讓您可以擴展生成式 AI 應用程式以應對更高流量。Bedrock Guardrails 提供可設定的保護措施,來篩選不同類別中的不良和有害內容並提示攻擊,主題篩選器用於定義和禁止特定主題,敏感資訊篩選器用於編輯個人身分識別資訊 (PII),詞語篩選器用於封鎖特定詞語,並透過偵測模型回應的依據和相關性來偵測模型幻覺,並使用自動推理識別、修正和解釋模型回應中的事實陳述。這些原則可根據您的特定使用案例和負責任 AI 政策量身打造。Guardrails 可在任何基礎模型上套用,包括使用 Amazon Bedrock 託管的模型、自我託管模型以及使用 ApplyGuardrail API 的第三方模型,進而提供一致的使用者體驗,並標準化安全和隱私控制項。

即日起,Bedrock Guardrails 可讓您擴展生成式 AI 應用程式,以應對更高的流量負載,並提高服務配額限制,以支援更高的每秒交易處理數 (TPS) 和每秒文字單位處理數 (TUPS)。藉由這次的增加,您現在可以使用 ApplyGuardrail API 每秒處理多達 50 次呼叫,是之前每秒 25 次呼叫限制的 2 倍。內容篩選器、敏感資訊篩選器和詞語篩選器現在可處理多達 200 個 TUPS,是之前 25 個 TUPS 的限制的 8 倍。

美國東部 (維吉尼亞北部) 和美國西部 (奧勒岡) AWS 區域均可使用這些限制。

若要進一步了解,請參閱技術文件Bedrock Guardrails 產品頁面