Функция «Отслеживание состояния приложений Amazon CloudWatch» теперь поддерживает Amazon Bedrock
Функция «Отслеживание состояния приложений Amazon CloudWatch» теперь поддерживает Amazon Bedrock, что позволяет пользователям устранять ошибки и проблемы со снижением производительности приложений на основе генеративного искусственного интеллекта. Amazon Bedrock – это полностью управляемый сервис, который предлагает базовые модели (FM), созданные ведущими компаниями в сфере ИИ, такими как Anthropic, Meta и Amazon, а также содержит дополнительные инструменты для создания приложений с использованием генеративного искусственного интеллекта. Данное усовершенствование позволяет пользователям приложений с генеративным ИИ, где используются FM-модели Bedrock, глубже анализировать то, каким образом сбои, например исключения при проверке моделей, или различные уровни задержки в разных моделях влияют на работу конечных пользователей.
Функция «Отслеживание состояния приложений» предоставляет готовые панели мониторинга для сопоставления различных данных телеметрии, включающих метрики, трассировки, журналы, мониторинг реальных пользователей и синтетический мониторинг, по вашему приложению и его зависимостям, таким как Amazon Simple Queue Service (SQS), Amazon S3 или Amazon Bedrock. Это позволяет ускорить устранение неполадок, нарушающих работу приложения. Например, разработчик, использующий приложение с большой языковой моделью (LLM), которое вызывает FM-модели Bedrock, может отслеживать наличие каких-либо проблем в своем API-интерфейсе поддержки клиентов. Затем он может подробно проанализировать точно подобранную трассировку событий, которые привели к ошибке, и сопоставленные журналы, чтобы установить основную причину проблемы, например неверные входные данные или длительное время отклика моделей LLM, которые нарушили работу конечных пользователей. Отслеживание работы моделей в приложении позволяет оценивать разные модели и выбирать из них наиболее подходящую для вашего варианта использования, оптимизируя затраты и удобство работы клиентов.
См. дополнительные сведения в документации по включению Отслеживания состояния приложений Amazon CloudWatch в ваших приложениях, взаимодействующих с моделями Amazon Bedrock. Чтобы опробовать Отслеживание состояния приложений на приложении-образце, посетите семинар AWS One Observability Workshop.