게시된 날짜: Mar 29, 2024
이제 Amazon Bedrock용 지식 기반을 통해 사용자 지정 프롬프트를 생성하여 파운데이션 모델(FM)에서 생성된 응답을 개인화하는 작업을 보다 효과적으로 제어할 수 있게 되었습니다. 또한 검색 구절의 수를 구성하여 FM에 추가 컨텍스트를 제공함으로써 정확도를 높일 수 있습니다.
프롬프트는 FM이 정보를 처리하고 응답을 생성하는 방식에 상당한 영향을 미칩니다. 사용자 지정 프롬프트를 사용하면 컨텍스트, 사용자 입력 또는 출력 표시기를 추가하여 모델이 사용 사례 요구 사항에 더 적합한 응답을 생성하도록 프롬프트 지침을 조정할 수 있습니다. 예를 들어 출력 언어와 형식(예: ‘스페인어로 답변 생성’)을 정의하고 별도의 후처리 및 오케스트레이션 단계를 설정하는 수고를 덜 수 있습니다. 사용자 지정 프롬프트는 선택 사항인 파라미터로, 이 파라미터가 없으면 기본 시스템 프롬프트가 사용됩니다.
그뿐만 아니라 사용자는 이제 검색 구절 수를 조정하여 최종 응답을 생성하는 데 필요한 정보의 양을 제어할 수 있습니다. 긴 입력 텍스트를 작은 세그먼트 또는 구절로 나누는 프로세스를 청킹이라고 합니다. 지금까지는 지식 기반을 쿼리할 때 Retrieve API가 최대 5개의 청크를 반환했습니다. 하지만 이제 지식 기반은 검색 청크를 최대 100개까지 지원하므로 더 정확하고 포괄적인 정보 검색이 가능합니다.
이 두 기능은 현재 미국 동부(버지니아 북부)와 미국 서부(오레곤) AWS 리전에서 사용할 수 있습니다. 자세한 내용은 Amazon Bedrock용 지식 기반 설명서에서 확인하세요. 시작하려면 Amazon Bedrock 콘솔로 이동하거나 RetrieveAndGenerate API 및 Retrieve API를 사용하세요.