Amazon Bedrock mở rộng hỗ trợ API và giới thiệu Suy luận xuyên khu vực cho các mô hình OpenAI ở AWS GovCloud (Hoa Kỳ)
Amazon Bedrock hiện hỗ trợ các mô hình OpenAI GPT-5.6 (Terra và Luna) trên điểm cuối bedrock-runtime, với hỗ trợ cho các API Responses, Converse và Chat Completions ở AWS GovCloud (Hoa Kỳ). Dịch vụ này cũng bổ sung hỗ trợ cho Suy luận xuyên khu vực, cho phép khách hàng sử dụng Suy luận xuyên khu vực trong các khu vực AWS GovCloud (Hoa Kỳ) để truy cập thông lượng cao hơn và tăng dự phòng.
Suy luận xuyên Khu vực sẽ tự động định tuyến các yêu cầu suy luận qua cả hai Khu vực AWS GovCloud (Hoa Kỳ) để cung cấp cho bạn thông lượng cao hơn mà không cần quản lý dung lượng trên nhiều Khu vực. Sự suy luận xuyên khu vực ở AWS GovCloud (Hoa Kỳ) định tuyến các yêu cầu qua cả hai khu vực để bạn có thể điều chỉnh quy mô trong khi vẫn duy trì chủ quyền dữ liệu của Hoa Kỳ, cho phép bạn truy cập rộng nhất vào dung lượng Bedrock và thông lượng cao nhất trong thời gian nhu cầu tăng đột biến. Lần ra mắt này cũng mở rộng hỗ trợ API; bạn có thể sử dụng các mô hình OpenAI GPT với API Responses, API Chat Completions và API Converse trên điểm cuối bedrock-runtime. Do các API OpenAI gốc này hiện chạy trên bedrock-runtime, các mô hình hoạt động với cùng một điều khiển cấp tài khoản mà bạn đã sử dụng cho các mô hình khác trên Bedrock: mức sử dụng xuất hiện trong nhật ký gọi mô hình Bedrock (có thể phân phối cho Amazon S3 hoặc Amazon CloudWatch Logs) và trong các số liệu Amazon CloudWatch bao gồm số lượng gọi, số token, độ trễ, điều chỉnh và lỗi, và nó được chia thành từng mục trong AWS Cost Explorer và Báo cáo chi phí và sử dụng AWS để bạn có thể phân loại chi tiêu theo mô hình.
Suy luận xuyên Khu vực cho các mô hình OpenAI có sẵn ở tất cả các Khu vực AWS có cung cấp các mô hình OpenAI trên Amazon Bedrock. Để bắt đầu, hãy xem lại thẻ mô hình cho GPT-5.6 (Terra và Luna) trong Hướng dẫn sử dụng Amazon Bedrock.