Amazon Bedrock 現在支持 Anthropic Claude Sonnet 4 的全球跨區域推論

張貼日期: 2025年9月3日

Anthropic 的 Claude Sonnet 4 現在已配備 Amazon Bedrock 的全球跨區域推論功能,因此您現在可以使用 Global Claude Sonnet 4 推論設定檔,將推論請求路由到任何支援的商業 AWS 區域進行處理、最佳化可用資源,並支援更高的模型輸送量。

Amazon Bedrock 是一項全面、安全、靈活的服務,用於建置生成式 AI 應用程式和代理程式。在 Amazon Bedrock 中使用隨選和批次推論時,您的請求可能會受限於服務配額或使用繁忙時段。跨區域推論可讓您在不同 AWS 區域運用運算,流暢管理計劃外的流量激增。透過跨區域推論,您可以將流量分配至多個 AWS 區域,從而實現更高的輸送量。在此之前,您可以選擇與特定地理 (例如美國、歐盟或亞太地區) 關聯的跨區域推論設定檔,這些設定檔會自動選取該地理區域內的最佳商業 AWS 區域來處理您的推論請求。如果您的生成式 AI 使用案例不需要選擇與特定地理位置相關的推論設定檔,現在可使用全球跨區域推論設定檔進一步提高模型輸送量。

若要深入了解 Amazon Bedrock 中的全球跨區域推論,您可以瀏覽我們有關透過跨區域推論增加輸送量的文件、參閱推論設定檔的支援區域和模型,並遵循「在模型調用中使用推論設定檔」頁面中提供的步驟以開始使用。