Amazon Bedrock Guardrails, 에이전틱 AI 워크플로를 위한 새로운 API 발표
Amazon Bedrock Guardrails가 리소스 없는 새로운 API인 InvokeGuardrailChecks API를 제공합니다. 이제 가드레일 리소스를 생성하지 않고도 에이전틱 AI 애플리케이션의 어느 지점에서든 개별 보호 조치를 적용할 수 있습니다. 이 API를 통해 에이전트 루프의 각 단계에서 실행할 보호 조치를 요청별로 세분화하여 제어할 수 있고, 숫자로 된 심각도 및 신뢰도 점수가 반환되므로 특정 요구 사항에 따라 차단, 통과, 재시도 또는 로깅 등의 사용자 지정 임곗값과 작업을 구현할 수 있습니다.
에이전틱 AI 애플리케이션은 반복 루프를 통해 작동하는데 태스크 계획, 도구 직접 호출, 출력 처리를 계속 반복하면서 하나의 요청을 처리하기 위해 수십 단계를 실행하곤 합니다. 각 단계마다 위험 프로필이 다르기 때문에 획일적인 가드레일로는 규모를 조정하기 어렵습니다. InvokeGuardrailChecks API는 추적할 가드레일 ID와 관리할 버전이 없는 탐지 전용 모드에서 작동함으로써 이 문제를 해결합니다. 각 요청에서 실행할 보호 조치를 직접 지정할 수 있으므로 워크플로가 발전함에 따라 검사를 쉽게 추가, 제거하거나 조정할 수 있습니다.
이 API는 콘텐츠 필터(혐오, 폭력, 성적인 내용, 모욕, 부적절한 행위를 포함한 다양한 범주의 유해 콘텐츠 감지), 프롬프트 공격 감지(탈옥, 프롬프트 인젝션, 프롬프트 유출을 독립적인 검사로 구별), 그리고 민감한 정보 필터(지원되는 PII 유형 탐지)를 지원합니다. 프롬프트 공격 탐지는 별도의 보호 조치로 노출되므로 지원되는 각 공격 벡터를 개별적으로 세분화하여 간접적으로 호출할 수 있습니다.
InvokeGuardrailChecks API는 현재 미국 동부(버지니아 북부), 미국 동부(오하이오), 미국 서부(오리건), 유럽(런던), 유럽(스톡홀름), 아시아 태평양(도쿄), 아시아 태평양(시드니) AWS 리전에서 사용할 수 있습니다.
자세한 내용은 Amazon Bedrock Guardrails 기술 설명서를 참조하세요.