Amazon Bedrock용 기술 자료

Amazon Bedrock용 기술 자료를 사용하면 회사 비공개 데이터 소스의 컨텍스트 정보를 FM과 에이전트에게 제공하여 RAG를 지원함으로써 관련성이 높고 정확한 맞춤형 응답을 제공할 수 있습니다.

엔드 투 엔드 RAG 워크플로에 대한 완전관리형 지원

파운데이션 모델(FM)에 최신 독점 정보를 제공하기 위해 조직에서는 회사 데이터 소스에서 데이터를 가져와 프롬프트를 보강하여 보다 관련성이 높고 정확한 응답을 제공하는 기술인 검색 증강 생성(RAG)을 사용합니다. Knowledge Bases for Amazon Bedrock은 수집에서 검색 및 프롬프트 보강에 이르는 전체 RAG 워크플로를 구현하는 데 도움이 되는 완전관리형 기능입니다. 데이터 소스에 대한 사용자 지정 통합을 구축하고 데이터 흐름을 관리할 필요가 없습니다. 또는 벡터 데이터베이스를 설정하지 않고도 단일 문서에서 질문을 하고 데이터를 요약할 수 있습니다. 세션 컨텍스트 관리 기능도 기본적으로 포함되어 있어 앱에서 연속 대화를 즉시 지원할 수 있습니다.

knowledge bases 개요의 공식 설명

FM 및 에이전트를 데이터 소스에 안전하게 연결

독점 데이터의 위치를 가리키면 기술 자료에서 자동으로 문서를 가져옵니다. 웹과 Amazon Simple Storage Service(S3), Confluence(평가판), Salesforce(평가판), SharePoint(평가판)와 같은 리포지토리에서 콘텐츠를 수집할 수 있습니다. 콘텐츠가 수집되면 기술 자료는 콘텐츠를 텍스트 블록으로 나누고, 텍스트를 임베딩으로 변환하며, 임베딩을 벡터 데이터베이스에 저장합니다.
또한 기술 자료는 콘텐츠 비교, 장애 처리, 처리량 제어, 암호화 등과 같은 워크플로 복잡성을 관리합니다. 기존 벡터 데이터베이스가 없는 경우 Amazon Bedrock이 Amazon OpenSearch Serverless 벡터 스토어를 자동으로 생성합니다. 또는 Amazon OpenSearch Serverless, Pinecone, Redis Enterprise Cloud, Amazon Aurora, MongoDB 등 지원되는 데이터베이스 중 하나에 있는 기존 벡터 스토어를 지정해도 됩니다.

기술 자료를 생성하고 데이터 소스를 설정하는 화면

기술 자료를 사용자 지정하여 런타임에 정확한 응답 제공

이제 검색 및 수집을 미세 조정하여 사용 사례 전반에서 정확도를 높일 수 있습니다. 고급 구문 분석 옵션을 활용하여 복잡한 콘텐츠(예: 표)가 포함된 비정형 데이터(예: PDF, 스캔 이미지)를 파악할 수 있습니다. 사용자 지정 청킹과 같은 고급 데이터 청킹 옵션을 사용하면 자체 청킹 코드를 Lamda 함수로 작성할 수 있으며 LangChain 및 LlamaIndex와 같은 프레임워크의 기성 구성 요소를 사용할 수도 있습니다. 원하는 경우 기본 청킹, 고정 크기, 청킹 없음, 계층적 청킹 또는 시맨틱 청킹을 비롯한 내장 청킹 전략 중 하나를 사용할 수도 있습니다. 검색 시 쿼리 재구성을 활용하여 복잡한 쿼리를 이해하도록 시스템의 기능을 개선할 수 있습니다.

Bedrock 청킹 구문 분석 구성 스크린샷

관련 데이터 검색 및 프롬프트 보강

Retrieve API를 사용하여 기술 자료에서 사용자 쿼리와 관련된 결과를 검색할 수 있습니다. 한 단계 더 발전한 RetrieveAndGenerate API는 검색된 결과를 직접 사용하여 FM 프롬프트를 보강하고 응답을 반환합니다. 또한 Agents for Amazon Bedrock에 기술 자료를 추가하여 에이전트에게 컨텍스트 정보를 제공할 수 있습니다.

API 검색 및 생성

소스 저작권 표시

Knowledge Bases for Amazon Bedrock의 모든 정보는 투명성을 높이고 할루시네이션을 최소화하기 위해 인용과 함께 제공됩니다.

사용자가 에이전트와 대화를 나누고 있는 채팅 창