Общедоступная наблюдаемость на базе генеративного ИИ для Amazon CloudWatch
Amazon CloudWatch объявляет о появлении общедоступной функции наблюдаемости на основе генеративного искусственного интеллекта (ИИ), которая помогает отслеживать все компоненты приложений и рабочих нагрузок ИИ, в том числе агентов, развернутых и используемых в Amazon Bedrock AgentCore. С выпуском этой функции вам доступен не только мониторинг среды выполнения, но и полная наблюдаемость для встроенных в AgentCore инструментов, шлюзов, памяти и возможностей идентификации. Теперь разработчики и команды DevOps могут сразу же получить полное представление о задержках, использовании токенов, ошибках и производительности всех компонентов рабочих нагрузок ИИ – от вызовов моделей до операций агентов. Данная функция совместима с популярными платформами оркестрации на базе генеративного искусственного интеллекта, такими как Strands Agents, LangChain и LangGraph, позволяя гибко выбирать из различных платформ.
Благодаря этой новой функции сервис CloudWatch позволяет разработчикам анализировать данные телеметрии по различным компонентам приложений генеративного искусственного интеллекта. Клиенты могут проверять схемы выполнения кода во встроенных инструментах, отслеживать успешность преобразования API посредством шлюзов, анализировать шаблоны хранения и получения данных в памяти и обеспечивать безопасную работу агентов за счет наблюдаемости в сервисе идентификации. Подключенное представление помогает разработчикам быстро выявлять проблемы от пробелов в векторной базе данных (VectorDB) до сбоев аутентификации, используя сквозное отслеживание запросов, тщательно подобранные метрики и журналы. Разработчики могут контролировать весь парк своих агентов с помощью раздела AgentCore в консоли CloudWatch, который легко интегрируется с другими компонентами CloudWatch, включая Отслеживание состояния приложений, Предупреждения, Защиту конфиденциальных данных и Аналитику журналов.
Эта функция сейчас доступна в следующих регионах AWS: Восток США (Северная Вирджиния, Огайо), Запад США (Орегон), Европа (Франкфурт, Ирландия) и Азиатско-Тихоокеанский регион (Мумбаи, Токио, Сингапур, Сидней).
Дополнительные сведения см. в документации. Дополнительная плата за наблюдаемость на базе генеративного искусственного интеллекта не взимается. Действуют текущие тарифы CloudWatch на используемые данные телеметрии.