Amazon Bedrock 보안, 개인정보 보호, 책임 있는 AI

Amazon Bedrock Guardrails는 사용자 지정 가능한 보호 장치를 통해 대규모 생성형 AI 애플리케이션을 구축하도록 지원하며, 유해 콘텐츠 필터링, 할루시네이션 감지, 민감 정보 가리기를 지원합니다. 업계 최고 수준의 다중 모드 유해성 감지 기능을 통해 최대 88%의 유해 콘텐츠를 차단할 수 있으며, 혐오 발언, 모욕, 성적 콘텐츠, 폭력, 위법 행위, 프롬프트 공격 등을 구성 가능한 임계값으로 필터링할 수 있습니다. Guardrails는 또한 사용자 입력과 모델 응답에서 개인 식별 정보(PII)를 감지하고 가릴 수 있도록 지원하며, 사전 정의된 PII 유형을 선택하거나 정규식을 사용하여 사용자 지정 민감 정보 유형을 정의할 수 있는 옵션을 제공합니다. 이러한 보호 장치는 Amazon Bedrock 모델, 타사 옵션(OpenAI, Google Gemini), Strands Agents와 같은 에이전트 프레임워크 등 원하는 모든 파운데이션 모델에 적용할 수 있으며, 모든 생성형 AI 애플리케이션에서 일관된 안전성, 개인정보 보호, 진실성 제어를 유지합니다. 

Amazon Bedrock Guardrails의 자동 추론 검사는 사실 오류를 할루시네이션으로부터 방지하는 최초이자 유일한 생성형 AI 보호 장치입니다. 견고한 수학적 기법을 사용하여 생성된 정보를 검증, 수정하고 논리적으로 설명함으로써 모델 응답의 정확성을 최대 99%까지 식별하고, 정보가 정확한 이유를 입증 가능한 방식으로 설명합니다. 문맥적 근거 검사는 출력 결과를 원본 정보와 비교 검증하여 검색 증강 생성(RAG) 및 요약 워크로드에서 75% 이상의 할루시네이션 응답을 필터링합니다. 이 두 가지 기능은 출력의 신뢰성, 정확성, 설명 가능성을 향상시켜 보다 신뢰할 수 있는 AI 애플리케이션 구축을 지원합니다.