Amazon Bedrock, RAG 애플리케이션 정확도 개선을 위해 Rrank API 지원
Amazon Bedrock은 Rerank API를 통한 리랭커 모델에 대한 지원을 발표했습니다. 이로써 개발자들은 검색 증강 생성(RAG) 애플리케이션에서 응답의 관련성을 개선할 수 있게 되었습니다. 리랭커 모델은 검색된 문서 세트를 사용자 쿼리와의 관련성에 따라 순위를 매기며, 응답 생성을 위해 파운데이션 모델(FM)에 전달할 가장 관련성이 높은 콘텐츠의 우선순위를 지정하는 데 도움이 됩니다. Knowledge Bases for Amazon Bedrock는 다양한 데이터 소스에서 컨텍스트 정보를 통합하여 사용자 지정 생성형 AI 애플리케이션을 생성할 수 있도록 완전관리형 엔드 투 엔드 RAG 워크플로를 제공합니다. Knowledge Bases for Amazon Bedrock 사용자의 경우, Retrieve API 및 RetrieveAndGenerate API의 설정 기능을 통해 리랭커를 활성화할 수 있습니다.
RAG 시스템의 시맨틱 검색은 문서 검색 관련성을 높일 수 있지만 복잡하거나 모호한 쿼리에는 어려움을 겪을 수 있습니다. 예를 들어, 온라인 구매 반품에 대한 질문을 받은 고객 서비스 챗봇은 반품 정책과 배송 가이드라인에 관한 문서를 모두 검색할 수 있습니다. 적절한 순위가 없다면 생성된 응답이 반품 대신 배송에 초점을 맞추어 사용자의 의도를 놓칠 수 있습니다. 이제 Amazon Bedrock은 리랭커 모델에 대한 액세스를 제공하므로, 사용자 쿼리와의 관련성을 기반으로 검색된 문서를 정렬하여 이 문제를 해결할 수 있습니다. 따라서 가장 유용한 정보가 응답 생성을 위해 파운데이션 모델로 전송되어 컨텍스트 창 사용을 최적화하고 잠재적으로 비용을 절감할 수 있습니다.
Rerank API는 Amazon Rerank 1.0 및 Cohere Rerank 3.5 모델을 지원합니다. 이 모델은 미국 서부(오리건), 캐나다(중부), 유럽(프랑크푸르트), 아시아 태평양(도쿄) 리전에서 사용할 수 있습니다.
Amazon Bedrock 제품 설명서를 참조하시기 바랍니다. 요금에 대한 자세한 내용은 요금 페이지에서 확인하세요.