Amazon Bedrock, API 지원을 확장하고 OpenAI 모델을 위한 교차 리전 추론 도입
Amazon Bedrock이 bedrock-runtime 엔드포인트에서 OpenAI GPT-5.6 모델(Sol, Terra 및 Luna)을 지원합니다. 이제 Responses, Converse, Chat Completions API를 사용할 수 있습니다. 교차 리전 추론도 추가 지원하므로 고객은 글로벌 및 지리적 교차 리전 추론을 사용하여 더 높은 처리량과 더 낮은 추론 비용의 이점을 누릴 수 있습니다.
교차 리전 추론이 자동으로 여러 AWS 리전에 걸쳐 추론 요청을 라우팅하므로 여러 리전의 용량을 관리할 필요 없이 처리량을 높일 수 있습니다. 지리적 교차 리전 추론은 사전 정의된 지역 내에서 요청을 라우팅합니다. 이번 출시에는 새로운 미국 지역(US CRIS) 지원이 포함되므로 해당 지역 내에서 데이터 처리를 유지하면서 규모를 조정할 수 있습니다. 반면 글로벌 교차 리전 추론은 모델을 사용할 수 있는 모든 상용 AWS 리전에서 요청을 처리하므로 Bedrock 용량에 대한 가장 광범위한 액세스, 수요 급증 시 최고 수준의 처리량을 제공합니다. 글로벌 교차 리전 추론으로 비용도 절감할 수 있습니다. OpenAI 모델의 경우 글로벌 추론의 토큰당 요금이 리전 내 추론 및 지리적 추론보다 낮기 때문입니다. 이번 출시를 통해 API 지원도 확장되어, bedrock-runtime 엔드포인트에서 Responses API, Chat Completions API, Converse API를 사용하여 OpenAI GPT 모델을 사용할 수도 있습니다. 이제 이러한 기본 OpenAI API가 bedrock-runtime에서 실행되므로, Bedrock 기반의 다른 모델에 사용하던 것과 동일한 계정 수준 컨트롤을 적용할 수 있습니다. 사용량은 Bedrock 모델 간접 호출 로깅(Amazon S3 또는 Amazon CloudWatch Logs로 전송)과 호출 횟수, 토큰 수, 지연 시간, 스로틀, 오류를 포함하는 Amazon CloudWatch 지표에 표시되며, AWS Cost Explorer 및 AWS Cost and Usage Report에 항목별로 자세히 기록되므로 모델별 지출 내역을 파악할 수 있습니다.
OpenAI 모델에 대한 교차 리전 추론은 Amazon Bedrock 기반 OpenAI 모델이 제공되는 모든 AWS 리전에서 사용할 수 있습니다. 시작하려면 Amazon Bedrock 사용 설명서에서 GPT 5.6(Sol, Terra, Luna)용 모델 카드를 검토하세요.