Amazon CloudWatch Application Signals ahora es compatible con Amazon Bedrock
Amazon CloudWatch Application Signals ahora es compatible con Amazon Bedrock, lo que permite a los usuarios solucionar errores y cuestiones de rendimiento deficiente en las aplicaciones de IA generativa. Amazon Bedrock es un servicio completamente administrado que ofrece modelos fundacionales (FM) creados por las principales empresas de IA, como Anthropic, Meta y Amazon, junto con otras herramientas para crear aplicaciones de IA generativa. Para los usuarios con aplicaciones de IA generativa que dependen de los FM de Bedrock, esta mejora ofrece una comprensión más amplia de cómo los errores, p. ej., las excepciones de validación de modelos o la latencia en diferentes modelos, afectan a la experiencia del usuario final.
Application Signals proporciona paneles listos para usar con el objetivo de correlacionar la telemetría entre métricas, rastreos, registros, monitoreo de usuarios reales y monitoreo sintético de su aplicación y las dependencias respectivas, como Amazon Simple Queue Service (SQS), Amazon S3 o Amazon Bedrock. Esto acelera la solución de problemas de interrupción de las aplicaciones. Por ejemplo, un desarrollador de aplicaciones que opera una aplicación de modelo de lenguaje de gran tamaño (LLM) la cual invoca los FM de Bedrock puede rastrear si su API de atención al cliente tiene algún problema. Luego, pueden profundizar en el rastreo correlacionado con precisión que contribuye al error, junto con los registros correlacionados, para establecer la causa principal, como las entradas de modelo no válidas o los tiempos de respuesta prolongados de los modelos de LLM. Todo esto lleva a una mala experiencia del usuario final. El rastreo del rendimiento de los modelos dentro de su aplicación le permite evaluar diferentes modelos y elegir el mejor para su caso de uso, optimizando el costo y la experiencia del cliente.
Para obtener más información, consulte la documentación para habilitar Amazon CloudWatch Application Signals en sus aplicaciones que interactúan con los modelos de Amazon Bedrock. Para probar Application Signals en una aplicación de ejemplo, visite el taller de AWS One Observability.