Amazon CloudWatch Application Signals, 이제 Amazon Bedrock 지원
이제 Amazon CloudWatch Application Signals가 Amazon Bedrock을 지원하므로 사용자는 생성형 AI 애플리케이션의 오류와 성능 저하 문제를 해결할 수 있습니다. Amazon Bedrock은 Anthropic, Meta, Amazon과 같은 선도적인 AI 회사에서 구축한 파운데이션 모델(FM)과 더불어 생성형 AI 애플리케이션 구축을 위한 기타 도구를 제공하는 완전관리형 서비스입니다. 이 향상된 기능은 Bedrock FM에 의존하는 생성형 AI 애플리케이션을 사용하는 사용자가 모델 검증 예외와 같은 오류 또는 다양한 모델의 지연 시간이 최종 사용자 경험에 미치는 영향을 심층적으로 이해할 수 있도록 지원합니다.
Application Signals는 애플리케이션 및 관련 종속성(예: Amazon Simple Queue Service(Amazon SQS), Amazon S3 또는 Amazon Bedrock)에 대한 지표, 추적, 로그, 실제 사용자 모니터링, 종합 모니터링에 걸쳐 텔레메트리의 상관관계를 파악할 수 있는 기본 제공 대시보드를 제공하여 애플리케이션 중단 문제를 빠르게 해결할 수 있도록 합니다. 예를 들어 Bedrock FM을 간접적으로 호출하는 대규모 언어 모델(LLM) 애플리케이션을 운영하는 애플리케이션 개발자는 고객 지원 API에 문제가 있는지 추적할 수 있습니다. 그런 다음 오류의 원인이 되는 정확한 상관관계가 있는 추적을 상관관계가 있는 로그와 함께 살펴보고 잘못된 모델 입력이나 LLM 모델의 긴 응답 시간으로 인한 최종 사용자 경험 저하와 같은 근본 원인을 파악할 수 있습니다. 애플리케이션 내에서 모델 성능을 추적하면 다양한 모델을 평가하고 사용 사례에 가장 적합한 모델을 선택하여 비용과 고객 경험을 최적화할 수 있습니다.
자세한 내용은 Amazon Bedrock 모델과 상호 작용하는 애플리케이션에서 Amazon CloudWatch Application Signals를 활성화하는 방법에 대한 설명서를 참조하세요. 샘플 애플리케이션에서 Application Signals를 사용해 보려면 AWS One Observability 워크숍으로 이동하세요.