Amazon CloudWatch adiciona observabilidade de IA generativa (pré-visualização)
Agora, o Amazon CloudWatch ajuda você a observar aplicações e workloads de IA generativa, incluindo agentes implantados e operados com o Amazon Bedrock AgentCore (pré-visualização), para oferecer insights sobre performance, integridade e precisão da IA. Você recebe uma visualização pronta para uso da latência, do uso e dos erros das workloads de IA para agilizar a detecção de problemas em componentes como invocações de modelos e agentes. Também é possível encontrar problemas mais rapidamente usando o rastreamento completo de prompts de componentes, como bases de conhecimento, ferramentas e modelos. Esse recurso é compatível com estruturas populares de orquestração de IA generativa, como Strands Agents, LangChain e LangGraph, oferecendo flexibilidade com a sua opção de estrutura.
Com esse novo recurso, o Amazon CloudWatch analisa dados de telemetria em todos os componentes de uma aplicação de IA generativa, ajudando a identificar rapidamente a origem dos erros. Por exemplo, você pode identificar a origem das respostas imprecisas, causadas por lacunas no VectorDB ou tentativas incompletas do sistema de RAG, usando rastreamento completo de prompts, métricas selecionadas e logs. Essa visão conectada das interações dos componentes ajuda os desenvolvedores a otimizar as workloads com mais rapidez para oferecer altos níveis de disponibilidade, precisão, confiabilidade e qualidade. Os desenvolvedores podem manter os agentes de IA funcionando sem problemas monitorando e avaliando a frota de agentes em um só lugar. A visualização de observabilidade de GenAI selecionada pelo agente está disponível na guia “AgentCore” no console do CloudWatch. A observabilidade de IA generativa é integrada a outros recursos do CloudWatch, como Application Signals, Alarmes, Painéis, Proteção de dados sensíveis e Logs Insights, ajudando você a estender as ferramentas de observabilidade existentes de forma integrada para monitorar workloads de IA generativa.
Esse recurso está disponível para pré-visualização em quatro regiões: Leste dos EUA (Norte da Virgínia), Oeste dos EUA (Oregon), Europa (Frankfurt) e Ásia-Pacífico (Sydney). Para saber mais, consulte a documentação. Os preços do CloudWatch se aplicam aos dados de telemetria coletados e armazenados.