Amazon CloudWatch Application Signals ora supporta Amazon Bedrock
Amazon CloudWatch Application Signals ora supporta Amazon Bedrock, consentendo agli utenti di risolvere errori e rallentare le prestazioni nelle applicazioni di IA generativa. Amazon Bedrock è un servizio completamente gestito che offre modelli di fondazione (FM) creati dalle principali società di IA, come Anthropic, Meta e Amazon insieme ad altri strumenti per la creazione di applicazioni di IA generativa. Per gli utenti con applicazioni di IA generativa basate sugli FM Bedrock, questo miglioramento consente di comprendere in modo più approfondito in che modo come errori come le eccezioni di convalida dei modelli o la latenza in diversi modelli influisce sull'esperienza dell'utente finale.
Application Signals fornisce dashboard preconfigurate per correlare la telemetria tra metriche, tracce, log, monitoraggio degli utenti reali e monitoraggio sintetico per l'applicazione e le sue dipendenze, come Amazon Simple Queue Service (SQS), Amazon S3 o Amazon Bedrock, accelerando la risoluzione dei problemi di interruzione delle applicazioni. Ad esempio, uno sviluppatore di applicazioni che gestisce un'applicazione LLM (Large Language Model) basata sugli FM Bedrock FM può monitorare la sua API di assistenza clienti per verificare se sta riscontrando problemi. Può quindi analizzare la traccia correlata con precisione che contribuisce all'errore, insieme ai log correlati, per stabilire la causa principale, ad esempio input di modelli non validi o lunghi tempi di risposta dei modelli LLM, con conseguente esperienza scadente per l'utente finale. Il monitoraggio delle prestazioni dei modelli all'interno della tua applicazione ti consente di valutare modelli diversi e scegliere quello migliore per il tuo caso d'uso, ottimizzando i costi e l'esperienza del cliente.
Per ulteriori informazioni, consulta la documentazione per abilitare Amazon CloudWatch Application Signals nelle tue applicazioni che interagiscono con i modelli Amazon Bedrock. Per provare Application Signals in un'applicazione di esempio, segui One Observability Workshop di AWS.