Amazon CloudWatch Application Signals já oferece suporte ao Amazon Bedrock
Agora, o Amazon CloudWatch Application Signals oferece suporte ao Amazon Bedrock, permitindo que os usuários solucionem erros e problemas de performance em aplicações de IA generativa. O Amazon Bedrock é um serviço totalmente gerenciado que oferece modelos de base (FMs) criados pelas principais empresas de IA, como Anthropic, Meta e Amazon, além de outras ferramentas para criar aplicações de IA generativa. Para usuários com aplicações de IA generativa que dependem de FMs do Bedrock, esse aprimoramento oferece uma compreensão mais detalhada de como as falhas (por exemplo, exceções de validação de modelo) ou a latência em diferentes modelos afetam a experiência do usuário final.
O Application Signals oferece painéis prontos para uso que correlacionam a telemetria entre métricas, rastreamentos, logs, monitoramento de usuários reais e monitoramento sintético das aplicações e suas dependências, como Amazon Simple Queue Service (SQS), Amazon S3 ou Amazon Bedrock, acelerando a solução de problemas de interrupções em aplicações. Por exemplo, um desenvolvedor de aplicações operando uma aplicação de grande modelo de linguagem (LLM) que invoca FMs do Bedrock pode acompanhar a ocorrência de problemas em sua API de suporte ao cliente. Ele pode detalhar o rastreamento exato que contribui para o erro e os logs relacionados para estabelecer a causa raiz, como entradas de modelo inválidas ou tempos de resposta prolongados dos modelos de LLM, que resultam em uma experiência ruim para o usuário final. O monitoramento da performance do modelo nas aplicações permite que você avalie diferentes modelos e escolha o melhor para seu caso de uso, otimizando o custo e a experiência do cliente.
Para saber mais, consulte a documentação para habilitar o Amazon CloudWatch Application Signals em aplicações que interagem com os modelos do Amazon Bedrock. Para testar o Application Signals em uma aplicação de exemplo, acesse o AWS One Observability Workshop.