이제 자동 추론 검사(평가판)를 지원하는 Amazon Bedrock Guardrails
Amazon Bedrock Guardrails의 자동 추론 검사 보호 기능이 출시되었습니다. 즉, AWS는 업계 최초로 생성형 AI 제품에서 자동 추론 기능을 통합 제공하는 유일한 주요 클라우드 공급업체입니다. 자동 추론 검사를 진행하면 할루시네이션을 탐지하여 대규모 언어 모델(LLM)의 응답이 정확함을 확인할 수 있는 증거를 제공할 수 있습니다. 자동 추론 도구는 응답의 정확도를 추측하거나 예측하지 않습니다. 대신 안정적인 수학 기법을 통해 전문가가 생성한 자동 추론 정책 준수 여부를 명백하게 확인합니다. 그러므로 응답의 정확도가 더욱 높아집니다. LLM을 사용하여 모델과 ‘대화’를 하는 방식으로 관련성이 높으며 상황에 맞는 정보에 액세스할 수 있도록 지원함으로써 사용자 경험을 개선하고 운영비를 줄이는 조직이 갈수록 늘어나고 있습니다. 하지만 LLM에서는 ‘할루시네이션’이 발생하기 쉽습니다. LLM은 설득력 있는 답변을 생성할 수 있으므로 이와 같은 할루시네이션을 탐지하기가 어려운 경우가 많습니다. 현재는 LLM에서 할루시네이션 발생 가능성이 있으며 할루시네이션이 발생하는 이유를 설명할 수가 없으므로 정보의 정확도가 매우 중요한 사용 사례에서도 생성형 AI가 신속하게 도입되고 있지 못한 실정입니다.
도메인 전문가는 자동 추론 검사를 진행하여 ‘자동 추론 정책’이라는 사양을 더욱 쉽게 작성할 수 있습니다. 이 정책에는 운영 워크플로, HR 정책 등의 분야 관련 지식이 요약되어 있습니다. Amazon Bedrock Guardrails 사용자는 자동 추론 정책을 기준으로 생성된 콘텐츠를 검증하여 정확하지 않은 내용과 설명이 없는 가정을 식별할 수 있으며, 모델이 생성한 설명이 정확한 이유를 확인 가능한 방식으로 설명할 수 있습니다. 예를 들어 복잡한 HR 정책에 정의되어 있는 주제와 관련된 답변을 검증한 후 해당 답변을 입증하는 증거를 제시하여 답변이 정확한 이유를 설명하도록 자동 추론 검사를 구성할 수 있습니다.
미국 동부(버지니아 북부) 및 미국 서부(오리건) AWS 리전의 Amazon Bedrock Guardrails에서 자동 추론 검사 기능 액세스 권한을 요청하려면 AWS 계정 팀에 문의하세요. 자세히 알아보려면 Amazon Bedrock Guardrails를 방문하여 뉴스 블로그를 확인해 보세요.