Amazon Bedrock Guardrails, 자동 추론 검사 지원
AWS는 Amazon Bedrock Guardrails의 자동 추론 검사 기능을 정식 출시했습니다. 이 기능은 형식 검증 기술을 사용하여 생성형 AI 모델의 출력 정확성과 정책 준수 여부를 검증하는 안전장치입니다. 자동 추론 검사는 LLM의 올바른 응답을 최대 99%의 정확도로 탐지할 수 있어, AI 할루시네이션 탐지에 대한 입증 가능한 신뢰성을 제공하며, 모델 응답의 모호성 탐지에도 도움을 줍니다.
자동 추론 검사는 기존 테스트 방법과는 근본적으로 다른 접근 방식을 제공합니다. 샘플링 출력을 통한 품질 확인과는 달리, 자동 추론 검사는 AI 응답이 정의된 비즈니스 규칙과 도메인 지식을 준수한다는 수학적으로 엄밀한 보장을 제공합니다. 이는 배포 전에 AI 출력을 명확하게 검증해야 하는 규제 대상 산업의 기업에 특히 유용합니다.
Amazon Bedrock Guardrails의 자동 추론 검사는 현재 미국(버지니아 북부), 미국(오하이오), 미국(오리건), 유럽(프랑크푸르트), 유럽(아일랜드), 유럽(파리) 리전에서 정식 버전으로 제공됩니다. 고객은 Amazon Bedrock 콘솔과 Amazon Bedrock Python SDK를 통해 이 서비스에 액세스할 수 있습니다.
자동 추론 검사에 대해 자세히 알아보고 이를 생성형 AI 워크플로에 통합하는 방법을 살펴보려면 Amazon Bedrock 설명서로 이동하세요. AWS 계정 팀이나 AWS 솔루션스 아키텍트에게 연락하여 구체적인 사용 사례 및 요구 사항에 대해 논의할 수도 있습니다. CloudFormation 지원이 곧 제공될 예정입니다. 자세한 내용은 뉴스 블로그, 설명서, Guardrails 웹 페이지에서 확인하실 수 있습니다.