자동 추론 검사, 이제 자연어 테스트 Q&A 생성 기능 포함
AWS는 Amazon Bedrock Guardrails에서 자동 추론 검사를 위한 자연어 테스트 Q&A 생성 기능을 출시한다고 발표했습니다. 자동 추론 검사는 공식 검증 기법을 사용하여 생성형 AI 모델 출력의 정확성과 정책 준수를 검증합니다. 자동 추론 검사는 LLM의 올바른 응답을 최대 99%의 정확도로 탐지할 수 있어, AI 할루시네이션 탐지에 대한 입증 가능한 신뢰성을 제공하며, 모델 응답의 모호성 탐지에도 도움을 줍니다.
자동 추론 검사를 시작하려면, 고객은 자연어 문서와 샘플 Q&A를 사용하여 자동 추론 정책을 만들고 테스트해야 합니다. 자동 추론 검사는 입력 문서의 콘텐츠를 사용하여 각 정책에 대해 최대 N개의 테스트 Q&A를 생성하므로, 초기 정책 생성에서 프로덕션 환경에 바로 적용 가능한 정제된 정책까지 도달하는 데 필요한 작업이 줄어듭니다.
자동 추론 검사의 테스트 생성은 현재 미국(버지니아 북부), 미국(오하이오), 미국(오리건), 유럽(프랑크푸르트), 유럽(아일랜드), 유럽(파리) 리전에서 정식 버전으로 제공됩니다. 고객은 Amazon Bedrock 콘솔과 Amazon Bedrock Python SDK를 통해 이 서비스에 액세스할 수 있습니다.
자동 추론 검사와 자동 추론 검사를 생성형 AI 워크플로에 통합하는 방법에 대해 자세히 알아보려면 Amazon Bedrock 설명서를 읽고, AWS AI 블로그의 자습서를 검토하고, Bedrock Guardrails 웹 페이지를 방문하세요.