Amazon Bedrock Guardrails, 이제 교차 리전 추론 지원
Amazon Bedrock Guardrails에서 고객이 여러 AWS 리전에서 컴퓨팅을 활용하여 트래픽 버스트를 원활하게 관리할 수 있는 선택적 기능인 교차 리전 추론을 지원한다고 발표했습니다.
Bedrock Guardrails는 구성 가능한 보호 조치를 제공하여 유해한 콘텐츠와 프롬프트 공격을 탐지 및 차단하고, 특정 주제를 거부 및 허용하지 않을 주제를 정의하고, 입력 프롬프트 및 모델 응답에서 개인 데이터와 같은 개인 식별 정보(PII)를 수정하는 데 도움이 됩니다. 또한 Bedrock Guardrails는 자동 추론 검사를 사용하여 모델 할루시네이션을 탐지 및 차단하고, 모델 응답에서 사실적 주장을 식별, 수정 및 설명하는 데 도움이 됩니다. Guardrails는 Amazon Bedrock으로 호스팅되는 모델, 자체 호스팅 모델, ApplyGuardRail API를 사용하는 Bedrock 이외의 서드 파티 모델 등 모든 파운데이션 모델에 적용할 수 있어 일관된 사용자 경험을 제공하고 안전 및 개인 정보 보호 제어를 표준화하는 데 도움이 됩니다.
Amazon Bedrock Guardrails 고객은 교차 리전 추론을 사용하여 수요가 폭증하는 기간 동안 일관된 처리량을 확보하고 복원력을 강화할 수 있습니다. 이 옵션을 선택하면 고객은 더 이상 수요 변동을 예측하는 데 시간과 노력을 들일 필요가 없습니다. 대신 교차 리전 추론이 여러 리전에 걸쳐 트래픽을 동적으로 라우팅하여 각 요청에 대해 최적의 가용성을 보장하고 사용량이 많은 기간 동안 더 원활한 성능을 보장합니다.
Amazon Bedrock Guardrails로 교차 리전 추론 기능을 사용하는 데 따르는 추가 라우팅 비용은 없습니다. 지원되는 리전 목록은 여기에서 확인하세요.
기능 및 시작 방법에 대한 자세한 내용은 기술 문서를 참조하세요.