Amazon Q Business, 채팅 응답의 할루시네이션 완화 기능 출시
오늘 Amazon Q Business는 채팅 응답에서 할루시네이션을 줄이기 위한 기능을 출시했습니다. 할루시네이션은 생성형 AI 애플리케이션이 기반 데이터에 의해 정당화되지 않은 내용임에도 확신을 가지고 응답하는 현상을 말합니다. 이번에 출시된 기능은 채팅 대화 중에 실시간으로 할루시네이션을 완화할 수 있도록 도와줍니다.
생성형 AI 애플리케이션의 기반이 되는 대규모 언어 모델(LLM)은 응답에서 할루시네이션 발생 가능성을 줄였지만, 여전히 할루시네이션이 발생할 수 있습니다. 따라서 신뢰할 수 있는 응답을 생성하려면 할루시네이션 완화 기능이 필요합니다. Q Business 할루시네이션 완화 기능은 애플리케이션에 연결된 데이터로부터 더 정확한 검색 증강 생성(RAG) 응답이 생성되도록 보장합니다. 이 데이터는 연결된 데이터 소스에서 가져오거나 채팅 중 업로드된 파일에서 가져올 수 있습니다. 채팅 중에 Q Business는 응답에 할루시네이션이 있는지 평가합니다. 높은 신뢰도로 할루시네이션이 탐지되면, 채팅 중에 그에 따라 응답의 불일치 부분을 실시간으로 수정하고 새롭게 수정된 메시지를 생성합니다.
이 기능은 Amazon Q Business가 제공되는 모든 리전에서 사용할 수 있습니다. 고객은 API 또는 Amazon Q 콘솔을 통해 이 기능을 활성화하여 사용하도록 선택할 수 있습니다. 자세한 내용은 설명서에서 확인하세요. Amazon Q 제품 페이지로 이동하면 Amazon Q Business와 해당 기능에 대해 자세히 알아볼 수 있습니다.