AWS IoT Greengrass ML Inference

Развертывание моделей машинного обучения, оптимизированных для запуска на устройствах AWS IoT Greengrass

AWS IoT Greengrass позволяет локально формировать на устройствах выводы с использованием машинного обучения, применяя модели, созданные, обученные и оптимизированные в облаке. С IoT Greengrass можно использовать модели машинного обучения в Amazon SageMaker или предварительно обученные собственные модели, хранящиеся в Amazon S3.

В машинном обучении используются статистические алгоритмы, способные обучаться на основе существующих данных, чтобы принимать решения о новых данных. Этот процесс называется «построением логического вывода». На основе выявленных в процессе обучения шаблонов и связей в данных строится модель. Модель позволяет системе принимать интеллектуальные решения о данных, с которыми она раньше не сталкивалась. В результате оптимизации моделей их размер уменьшается, поэтому они работают быстрее. Для обучения и оптимизации моделей машинного обучения требуются огромные вычислительные ресурсы, поэтому облако идеально подходит для работы с ними. При этом построение логических выводов требует намного меньше вычислительных мощностей и часто выполняется в режиме реального времени по мере поступления новых данных. Получение логических выводов с очень низкой задержкой крайне важно для того, чтобы IoT‑приложения могли быстро реагировать на локальные события.

IoT Greengrass позволяет одновременно выполнить эти два условия. При работе с сервисом используются модели машинного обучения, которые создаются, обучаются и оптимизируются в облаке, а логические выводы формируются локально на устройствах. Например, можно создать в SageMaker прогнозирующую модель для анализа обнаруженных сцен, оптимизировать ее для работы на любой камере, а затем выполнить ее развертывание для прогнозирования подозрительной активности и отправки предупреждений. Данные, полученные с помощью логических выводов на IoT Greengrass, можно отправить обратно в SageMaker, где они снабжаются метками и используются для непрерывного повышения качества моделей машинного обучения.

Преимущества

Гибкость

AWS IoT Greengrass включает готовые пакеты TensorFlow, Apache MXNet и Chainer для устройств на базе Intel Atom, NVIDIA Jetson TX2 и Raspberry Pi. Это избавляет от необходимости создавать и настраивать платформу машинного обучения для устройств с нуля. Кроме того, поддерживаются другие популярные платформы, в т. ч. Caffe2 и Microsoft Cognitive Toolkit. При использовании Amazon SageMaker с IoT Greengrass написанные на этих платформах модели преобразуются в переносимый код, который может работать на любом устройстве, поэтому не требуется выполнять дополнительную настройку на периферийных устройствах.

Развертывание моделей на подключенных устройствах за несколько щелчков мышью

AWS IoT Greengrass дает возможность без труда выполнять развертывание моделей машинного обучения на устройствах прямо из облака. За несколько щелчков мышью в консоли IoT Greengrass можно найти обученные модели в Amazon SageMaker или S3, выбрать нужную модель и выполнить ее развертывание на целевых устройствах. Развертывание модели будет выполнено на выбранных подключенных устройствах.

Ускорение получения логических выводов

Благодаря интеграции с Amazon SageMaker и компилятором глубокого обучения можно развертывать модели машинного обучения с оптимизированной средой выполнения, которая работает в два раза быстрее, чем при ручной настройке или использовании платформ машинного обучения. AWS IoT Greengrass также предоставляет доступ к аппаратным ускорителям (например, к графическим процессорам на подключенных устройствах) благодаря наличию предустановленных сред выполнения для типовых платформ машинного обучения и целевых устройств, таких как плата Nvidia Jetson TX2.

Получение логических выводов на большем количестве устройств

Благодаря интеграции с Amazon SageMaker модели оптимизируются и занимают менее одной десятой объема памяти, поэтому могут работать на устройствах с ограниченными ресурсами, таких как камеры видеонаблюдения и датчики.

Простота получения логических выводов на подключенных устройствах

Получение логических выводов на подключенных устройствах, работающих под управлением AWS IoT Greengrass, снижает задержки и стоимость отправки данных с устройства в облако для выполнения прогноза. Вместо отправки всех данных в облако для получения логических выводов с помощью машинного обучения логические выводы формируются непосредственно на устройстве.

Создание более точных моделей

Используя AWS, можно получать логические выводы, захватывать результаты, обнаруживать отклонения и отправлять данные обратно в облако и Amazon SageMaker, где их можно повторно классифицировать и снабжать метками с целью улучшения модели машинного обучения.

Как это работает

AWS Greengrass ML Inference – Как это работает

Примеры использования

Обработка видео

Чтобы делать прогнозы локально, AWS IoT Greengrass можно развертывать на подключенных устройствах, таких как камеры наблюдения, дорожные камеры, нагрудные камеры и медицинское оборудование для визуализации. AWS IoT Greengrass позволяет развертывать и запускать такие модели машинного обучения, как распознавание лиц, обнаружение объектов и определение плотности изображений, непосредственно на устройстве. Например, дорожная камера может подсчитывать количество велосипедов, транспортных средств и пешеходов, пересекающих перекресток, и определять необходимость регулирования сигналов светофора для оптимизации транспортных потоков и обеспечения безопасности людей.

Розничная торговля и гостиничный бизнес

Предприятия розничной торговли, организаторы круизов и парки развлечений инвестируют в приложения IoT, чтобы улучшить обслуживание клиентов. Например, можно использовать модели обнаружения объектов в парках аттракционов для подсчета посетителей. Камеры могут обнаруживать посетителей и вести их подсчет локально без отправки огромного количества видеоданных в облако, что часто представляет проблему из‑за ограниченной пропускной способности интернет‑подключений. Такое решение позволяет прогнозировать время ожидания на популярных аттракционах и повышать качество обслуживания клиентов.

Безопасность

Производители камер видеонаблюдения ищут новые способы расширения интеллектуальных возможностей устройств и автоматизации обнаружения вторжения. AWS IoT Greengrass позволяет расширить возможности камер видеонаблюдения. Камеры с поддержкой IoT Greengrass способны непрерывно сканировать территорию, обнаруживать изменения, например входящих посетителей, и отправлять оповещения. Камеры могут быстро выполнять анализ обнаруженных сцен локально и отправляют данные в облако только при необходимости (например, для дополнительного анализа, чтобы определить, является ли посетитель членом семьи).

Точное земледелие

Сегодня сельское хозяйство сталкивается с двумя большими проблемами. Во‑первых, численность населения в мире продолжает расти, в результате чего спрос на продукты питания превышает предложение. Во‑вторых, изменения климата влекут за собой непредсказуемые погодные условия, что негативно влияет на урожайность. AWS IoT Greengrass позволяет изменить практику сельхозработ и предоставляет клиентам новые возможности. Камеры с поддержкой IoT Greengrass, установленные в тепличных и фермерских хозяйствах, способны обрабатывать изображения сельскохозяйственных культур и данные, получаемые с датчиков в почве, для выявления природных аномалий, например изменений температуры, влажности и уровня питательных веществ, а также для отправки оповещений.

Профилактическое техническое обслуживание в промышленности

По мере усиления ценовой конкуренции производители ищут новые способы повышения эксплуатационной эффективности заводских цехов. Задержки в выявлении проблем на сборочном конвейере могут привести к потерям времени и ресурсов. AWS IoT Greengrass обеспечивает раннее обнаружение неисправного оборудования и неполадок в заводских цехах. Промышленные шлюзы с поддержкой IoT Greengrass способны осуществлять непрерывный мониторинг данных, получаемых с датчиков (например, уровня вибрации и шума), прогнозировать отказы оборудования и принимать соответствующие меры, например отправлять оповещения или отключать питание для сокращения убытков.

Избранные клиенты

Yanmar

Компания Yanmar использует AWS IoT Greengrass ML Inference в составе IoT‑решения для точного земледелия, которое расширяет интеллектуальные возможности ведения тепличного хозяйства путем автоматического выявления и распознавания основных стадий роста овощей.

DFDS

IoT‑устройства с поддержкой AWS IoT Greengrass ML Inference позволяют компании DFDS прогнозировать и оптимизировать тягу силовых установок морских судов, что дает возможность сократить потребление топлива в масштабах всего флота.


Избранные партнеры

Leopard

«Распространение искусственного интеллекта и внедрение цифровых технологий набирает обороты с удивительной скоростью. Такие инновации, как последняя версия AWS IoT Greengrass ML Inference, заметно сокращают время, затрачиваемое на машинное обучение, без снижения его точности. Они ускоряют разработку новых решений для перспективных примеров использования промышленной автоматизации в области идентификации и классификации объектов. Новое решение AWS для машинного обучения интегрируется с решением AICam от Leopard Imaging, которое построено на базе графического процессора NVIDIA®. Это решение станет краеугольным камнем любого продукта, обеспечивающего связь между периферией и облаком в промышленности или для реализации идеи "умного" города».

Билл Пу, президент и соучредитель компании Leopard Imaging


Lenovo

«Возможности использования компьютерного зрения, обеспечиваемые технологиями искусственного интеллекта и IoT, несут огромный потенциал для предприятий, желающих радикально повысить свою производительность и эффективность. Учитывая требования, которые диктует интеллектуальная революция в отрасли, мы создали промышленные камеры премиум‑класса Think IoT, которые работают на базе AWS IoT Greengrass с последними усовершенствованиями в области машинного обучения. Эти камеры разработаны для корпоративных клиентов и значительно отличаются от решений предыдущих поколений».

Джон Першке, вице‑президент по стратегическому развитию и перспективным отраслям бизнеса, департамент интеллектуальных устройств


Panasonic

«При разработке платформы Vieureka компания Panasonic с удовольствием использует новые функции машинного обучения от AWS, доступные в решении AWS IoT Greengrass. Мне хотелось бы как можно скорее разработать совместимую с AWS IoT Greengrass версию платформы, чтобы предложить всем партнерам сообщества AWS камеры Vieureka и соответствующие функции сервисного управления. Весной 2019 года мы создадим среду для разработчиков, а осенью того же года появятся коммерческие версии».

Миядзаки, генеральный директор сервиса Vieureka, Panasonic


ADLINK

«Внедрение AWS IoT Greengrass с последним обновлением ML Inference в промышленные системы наблюдения ADLINK позволяет создавать полностью готовые к использованию IoT‑устройства. Теперь можно намного быстрее достичь высококачественных результатов, просто включив серийно выпускаемую интеллектуальную камеру ADLINK NEON, работающую под управлением AWS IoT Greengrass с последним обновлением ML Inference. Это позволяет нам еще больше ускорить разработку экспериментальных цифровых IoT‑устройств для наших клиентов, работающих в области логистики, контроля качества, промышленной робототехники и других производственных отраслях».

Элизабет Кэмпбелл, генеральный директор, Северная и Южная Америка, ADLINK Technology

Подробнее о возможностях AWS IoT Greengrass

Перейти на страницу с описанием возможностей
Готовы начать?
Получить доступ к консоли
Есть вопросы?
Свяжитесь с нами