게시된 날짜: Nov 28, 2023
오늘 AWS는 고객이 사용 사례와 책임감 있는 AI 정책을 기반으로 한 기초 모델(FM) 전반에서 보호 조치를 구현할 수 있는 Amazon Bedrock용 가드레일 기능을 평가판 모드로 발표했습니다. 고객은 다양한 사용 사례에 맞춰진 여러 가드레일을 만들고 여러 FM 전반에 적용하여 일관된 사용자 환경을 제공하고 생성형 AI 애플리케이션에서 안전 제어를 표준화할 수 있습니다.
고객은 관련성이 높고 안전한 사용자 환경을 위해 생성형 AI 애플리케이션을 보호해야 합니다. 많은 FM에는 바람직하지 않은 콘텐츠와 유해한 콘텐츠를 필터링하는 보호 기능이 내장되어 있지만 고객은 고객의 사용 사례에 맞게 상호 작용을 추가로 조정하고 책임 있는 AI 정책을 준수하기를 원할 수도 있습니다. 예를 들어 은행은 투자 자문 제공을 피하고 유해한 콘텐츠를 제한하도록 온라인 도우미를 구성할 수 있습니다. 고객은 가드레일을 사용하여 애플리케이션 컨텍스트 내에서 바람직하지 않은 거부된 주제 세트를 정의하고 증오, 모욕, 성적 및 폭력과 같은 범주 전반에서 유해 콘텐츠를 필터링하도록 임계값을 구성할 수 있습니다. 가드레일 기능은 거부된 주제 및 콘텐츠 필터를 기준으로 사용자 쿼리와 FM 응답을 평가하여 콘텐츠가 제한된 범주에 속하지 않도록 할 수 있습니다. 이를 통해 고객은 애플리케이션별 요구 사항 및 정책을 기반으로 사용자 환경을 면밀하게 관리할 수 있습니다.
가드레일은 텍스트 기반 FM 전반에서의 영어 콘텐츠, Amazon Bedrock용 에이전트 및 Amazon Bedrock의 미세 조정된 모델에 지원됩니다. 이제 Amazon Bedrock용 가드레일 기능은 미국 동부(버지니아 북부) 및 미국 서부(오레곤) 리전에서 평가판 모드로 제공됩니다.
Amazon Bedrock용 가드레일에 대해 자세히 알아보려면 기능 페이지를 참조하세요.