Amazon Bedrock, OpenAI 및 Anthropic 호환 API용 Amazon CloudWatch 지표 추가
Amazon Bedrock은 선도적인 AI 회사의 고성능 파운데이션 모델에 엔터프라이즈급 보안 액세스를 제공하는 완전 관리형 서비스로서, 이를 통해 생성형 AI 애플리케이션을 구축하고 확장할 수 있습니다. 이제 Amazon Bedrock 고객은 기존에 Bedrock-Runtime 엔드포인트와 기타 AWS 서비스에서 수행했던 방식 그대로 Amazon CloudWatch 지표를 사용하여 bedrock-mantle 엔드포인트에 대한 추론 트래픽을 모니터링할 수 있습니다. bedrock-mantle 엔드포인트는 OpenAI Responses API, OpenAI Chat Completions API, Anthropic Messages API를 지원하므로 고객은 최소한의 코드 변경만으로 기존 OpenAI 또는 Anthropic 기반 애플리케이션을 Amazon Bedrock에서 실행할 수 있습니다.
bedrock-mantle 엔드포인트에 대한 CloudWatch 지표는 AWS/BedrockMantle 네임스페이스에 게시되며 추론 횟수, 입력 및 출력 토큰 합계, 클라이언트 오류 횟수를 포함합니다. 고객은 계정, 프로젝트, 모델, 프로젝트와 모델 등 다양한 세분화 수준에서 지표를 확인할 수 있으므로 사용량과 비용을 적절한 워크로드와 팀에 할당할 수 있습니다.
이번 출시를 통해 고객은 bedrock-mantle 엔드포인트에서 프로덕션 추론을 모니터링하고, 경보를 설정하고, 용량을 계획할 수 있습니다. 시작하려면 Amazon CloudWatch 콘솔을 열고 지표를 선택한 다음 AWS/BedrockMantle 네임스페이스를 선택하여 본인 계정의 지표를 확인합니다. bedrock-mantle 엔드포인트에 대한 CloudWatch 지표는 해당 엔드포인트가 제공되는 모든 AWS 리전, 즉 미국 동부(버지니아 북부, 오하이오), 미국 서부(오리건), 아시아 태평양(자카르타, 뭄바이, 시드니, 도쿄), 유럽(프랑크푸르트, 아일랜드, 런던, 밀라노, 스톡홀름), 남아메리카(상파울루)에서 사용할 수 있습니다. 자세한 내용은 bedrock-mantle 엔드포인트에 대한 CloudWatch 지표를 참조하세요.