L'osservabilità con IA generativa è ora disponibile al pubblico per Amazon CloudWatch
Amazon CloudWatch rende disponibile al pubblico l'osservabilità dell'IA generativa, che aiuta a monitorare tutti i componenti delle applicazioni IA e dei carichi di lavoro, inclusi gli agenti implementati e gestiti con Amazon Bedrock AgentCore. Questa versione amplia la copertura oltre il monitoraggio del runtime per includere l'osservabilità completa degli strumenti integrati, gateway, memoria e funzionalità di identità di AgentCore. Ora i team DevOps e gli sviluppatori possono accedere a una visualizzazione predefinita della latenza, dell'utilizzo dei token, degli errori e delle prestazioni di tutti i componenti dei carichi di lavoro IA, dalle invocazioni al modello alle operazioni dell'agente. Questa funzionalità è compatibile con i più diffusi framework di orchestrazione di IA generativa, come Strands Agents, LangChain e LangGraph, offrendo flessibilità nella scelta dell'ambiente di sviluppo.
Con questa nuova funzionalità CloudWatch consente agli sviluppatori di analizzare i dati di telemetria tra i componenti di un'applicazione di IA generativa. I clienti possono monitorare i pattern di esecuzione del codice negli strumenti integrati, tenere traccia dei tassi di successo delle trasformazioni API tramite i gateway, analizzare i pattern di archiviazione e recupero in memoria e assicurare un comportamento sicuro dell'agente mediante l'osservabilità dell'identità. La visualizzazione connessa aiuta gli sviluppatori a identificare rapidamente i problemi, dalle lacune in VectorDB agli errori di autenticazione, tramite il tracciamento end-to-end dei prompt, metriche selezionate e log. Gli sviluppatori possono monitorare l'intero parco di agenti tramite la sezione "AgentCore" dalla console CloudWatch, che si integra perfettamente con altre funzionalità di CloudWatch, tra cui Application Signals, Allarmi, Protezione dei dati sensibili e Approfondimenti di CloudWatch Logs.
La funzionalità è disponibile nelle regioni Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (Oregon), Europa (Francoforte), Europa (Irlanda), Asia Pacifico (Mumbai), Asia Pacifico (Tokyo), Asia Pacifico (Singapore) e Asia Pacifico (Sydney).
Per maggiori informazioni consulta la documentazione. Non sono previsti costi aggiuntivi per l'osservabilità con IA generativa, mentre per i dati di telemetria sottostanti si applicano le tariffe esistenti di CloudWatch.