Amazon Bedrock 擴展 API 支援,並在 AWS GovCloud (美國) 為 OpenAI 模型推出跨區域推論
Amazon Bedrock 現在支援 bedrock-runtime 端點上的 OpenAI GPT-5.6 模型 (Terra 和 Luna),並支援 AWS GovCloud (美國) 中的 Responses、Converse 和 Chat Completions API。此服務也新增跨區域推論支援,讓客戶可以在 AWS GovCloud (美國) 區域內使用跨區域推論,以獲得更高的輸送量與更佳的備援能力。
跨區域推論會自動跨兩個 AWS GovCloud (美國) 區域路由推論請求,從而提供更高的輸送量,而無需讓客戶管理多個區域的容量。AWS GovCloud (美國) 內的跨區域推論會在兩個區域之間路由請求,讓您在維持美國資料主權的同時進行擴展,並在需求尖峰時提供最廣泛的 Bedrock 容量存取與最高輸送量。此次推出的版本還擴大 API 支援,您可以在 bedrock-runtime 端點上使用 OpenAI GPT 模型與 Responses API、Chat Completions API 和 Converse API。因為這些原生 OpenAI API 目前在 bedrock-runtime 端點上執行,所以模型能夠使用與 Bedrock 上其他模型相同的帳戶層級控制項:使用量會顯示在 Bedrock 模型調用日誌中 (可傳遞至 Amazon S3 或 Amazon CloudWatch Logs) 以及 Amazon CloudWatch 指標中,其中包括調用計數、字符計數、延遲、限流和錯誤,並會在 AWS Cost Explorer 和 AWS 成本與使用報告中逐項列出,以便讓您依模型計入支出。
OpenAI 模型的跨區域推論適用於所有在 Amazon Bedrock 上提供 OpenAI 模型的 AWS 區域。若要著手使用,請在 Amazon Bedrock 使用者指南中檢閱 GPT-5.6 (Terra 和 Luna) 的模型卡。