Amazon Bedrock, Anthropic Claude Sonnet 4를 위한 글로벌 교차 리전 추론 지원
이제 Amazon Bedrock에서 Anthropic의 Claude Sonnet 4가 글로벌 교차 리전 추론을 지원합니다. 따라서 사용자는 Global Claude Sonnet 4 추론 프로필을 활용해 지원되는 모든 상용 AWS 리전으로 추론 요청을 라우팅하여, 요청을 처리하고 가용 리소스를 최적화하고, 모델 처리량을 높일 수 있습니다.
Amazon Bedrock은 생성형 AI 애플리케이션과 에이전트를 구축하기 위한 포괄적이고 안전하며 유연한 서비스입니다. Amazon Bedrock에서 온디맨드 및 배치 추론을 사용할 때, 서비스 할당량이나 피크 사용 시간대에는 요청이 제한될 수 있습니다. 교차 리전 추론을 사용하면 여러 AWS 리전에서 컴퓨팅 리소스를 활용해 예기치 않은 트래픽 급증에도 원활하게 대응할 수 있습니다. 즉, 트래픽을 여러 AWS 리전에 분산시켜 더 높은 처리량을 달성할 수 있습니다. 기존에는 미국, 유럽, 아시아 태평양 등 특정 지역에 연결된 교차 리전 추론 프로필을 선택할 수 있었으며, 이 프로필은 해당 지역 내에서 최적의 상용 AWS 리전이 자동으로 선택해 추론 요청을 처리했습니다. 특정 지역에 연결된 추론 프로필을 선택할 필요가 없는 생성형 AI 사용 사례의 경우, 글로벌 교차 리전 추론 프로필을 사용해 모델 처리량을 한층 더 향상할 수 있습니다.
Amazon Bedrock의 글로벌 교차 리전 추론에 대해 자세히 알아보려면 교차 리전 추론을 통한 처리량 증가 설명서와 추론 프로필 지원 리전 및 모델을 참조하고, 시작하려면 모델 간접 호출에서 추론 프로필 사용 페이지에 나와 있는 단계에 따라 수행해 보시기 바랍니다.