AgentCore 閘道現在支援 Bedrock InvokeModel API 與模型遞補

張貼日期: 2026年10月22日

Amazon Bedrock AgentCore 閘道現在於其推論端點支援 Amazon Bedrock InvokeModel 和 InvokeModelWithResponseStream API，並為推論流量提供模型遞補路由。透過支援 InvokeModel，您可以將現有的 Amazon Bedrock SDK 整合指向此閘道，並透過單一受管控的端點觸及任何模型供應商，無須為每個供應商改寫用戶端程式碼。透過模型遞補，當主要目的地受到限流、容量不足或無法觸及時，閘道會自動將請求路由至替代模型或供應商，讓您的代理程式持續可用，而無須由每個用戶端自行實作重試邏輯。

若採用遞補路由，您可在閘道規則中定義一連串依序排列的替代目的地，以及觸發切換的條件，例如限流、伺服器錯誤或回應逾時。內建的斷路器會略過目前發生故障的目的地，讓請求更快抵達健康的目的地，並避免因嘗試失敗而增加的延遲。遞補路由會在幕後進行，這表示無論特定請求內部如何嘗試與錯誤，您都只需傳送一個請求並收到一個回應。

這些功能已在所有提供 Amazon Bedrock AgentCore 閘道的 AWS 區域推出 (中國境內區域除外)。若要進一步了解，請參閱 Amazon Bedrock AgentCore 閘道使用者指南。