Amazon Bedrock용 가드레일, 이제 모든 FM을 사용하여 할루시네이션 탐지 및 앱 보호
Amazon Bedrock용 가드레일을 사용하는 고객은 애플리케이션 요구 사항 및 책임감 있는 AI 정책을 기반으로 보호 장치를 구현할 수 있습니다. 오늘, 가드레일은 원하는 파운데이션 모델(FM)을 사용하여 신뢰할 수 있는 생성형 AI 애플리케이션을 구축할 수 있도록 컨텍스트 그라운딩 검사를 추가하고 새로운 ApplyGuardRail API를 도입했습니다.
고객은 FM의 고유한 기능을 활용하여 회사의 소스 데이터를 기반으로 그라운딩된(신뢰할 수 있는) 응답을 생성합니다. 그러나 FM은 여러 정보를 결합하여 부정확하거나 새로운 정보를 생성하여 애플리케이션의 신뢰성에 영향을 미칠 수 있습니다. 가드레인은 이제 컨텍스트 그라운딩 검사를 통해 RAG(검색 증강 생성) 및 대화형 애플리케이션의 모델 응답에서 할루시네이션을 탐지할 수 있습니다. 이 보호 장치는 참조 소스를 기반으로 사실과 다르며 사용자의 쿼리와 관련이 없는 응답을 탐지하고 필터링하는 데 도움이 됩니다. 고객은 신뢰도 임계값을 구성하여 그라운딩 또는 관련성에 대한 신뢰도가 낮은 응답을 필터링할 수 있습니다.
아울러 다양한 FM을 사용하는 보호 애플리케이션을 선택할 수 있도록 가드레일은 이제 Amazon Bedrock에서 이미 지원되는 FM 외에도 모든 사용자 지정 및 서드 파티 FM에 대한 사용자 입력과 모델 응답을 평가할 수 있는 ApplyGuardRail API를 지원합니다. 이제 모든 생성형 AI 애플리케이션에 대해 중앙 집중식 안전 및 거버넌스를 적용하는 ApplyGuardrail API를 사용할 수 있습니다.
가드레인은 주요 클라우드 공급자가 안전, 개인 정보 보호 및 진실성 보호를 단일 솔루션으로 제공하는 유일한 제품입니다. 컨텍스트 그라운딩 검사 및 ApplyGuardRail API는 Amazon Bedrock용 가드레일이 지원되는 모든 AWS 리전에서 사용할 수 있습니다.
Amazon Bedrock용 가드레일에 대해 자세히 알아보려면 기능 페이지로 이동하거나 뉴스 블로그를 확인해 보세요.