AWS Greengrass ML Inference

Запуск моделей машинного обучения на устройствах AWS Greengrass

AWS Greengrass – это программное решение для безопасного выполнения локальных вычислений , передачи сообщений, синхронизации и кэширования данных на подключенных устройствах. AWS Greengrass позволяет подключенным устройствам исполнять функции AWS Lambda, синхронизировать данные и безопасно взаимодействовать с другими устройствами даже без подключения к Интернету. Теперь, используя возможность AWS Greengrass Machine Learning (ML) Inference, можно просто получать логические выводы моделей машинного обучения локально на подключенных устройствах.

Машинное обучение (ML) использует статистические алгоритмы, способные обучаться на основе существующих данных, чтобы принимать решения о новых данных. Этот процесс называется «построением логического вывода». Модель для принятия решений строится на основе выявленных в процессе обучения шаблонов и связей в данных. Эта модель позволяет системе принимать интеллектуальные решения о данных, с которыми она раньше не сталкивалась. Для обучения моделей ML требуются огромные вычислительные ресурсы, поэтому облако идеально подходит для работы с ними. При этом построение логических выводов обычно требует намного меньше вычислительных мощностей и часто выполняется в режиме реального времени по мере поступления новых данных. Получение логических выводов с очень низкой задержкой крайне важно для того, чтобы IoT-приложения могли быстро реагировать на локальные события.

AWS Greengrass ML Inference позволяет одновременно выполнить эти два условия. Создавать и обучать модели ML можно в облаке, а развертывать их и получать логические выводы – локально на подключенных устройствах. Например, можно построить в Amazon SageMaker прогнозирующую модель для анализа обнаруженных сцен, а затем запускать ее локально на камере видеонаблюдения с поддержкой Greengrass без подключения к облаку для прогнозирования и отправки оповещений при обнаружении входящего посетителя.

Преимущества

Простота получения логических выводов на базе машинного обучения на подключенных устройствах

Получение логических выводов на подключенных устройствах приводит к снижению задержек и стоимости отправки данных устройства в облако для выполнения прогноза. Теперь получение логических выводов с помощью машинного обучения не требует отправки всех данных в облако – возможность ML Inference сервиса Greengrass позволяет делать это прямо на устройствах. Данные отправляются в облако только тогда, когда требуется их дополнительная обработка.

Гибкость

Greengrass ML Inference включает готовые пакеты TensorFlow, Apache MXNet и Chainer для устройств на базе Intel Atom, NVIDIA Jetson TX2 и Raspberry Pi. Это избавляет от необходимости создавать и настраивать платформу ML для устройств с нуля. Greengrass ML Inference работает не только с TensorFlow, Apache MXNet и Chainer, но и с другими популярными платформами, включая Caffe2 и Microsoft Cognitive Toolkit. Для Greengrass ML Inference можно создавать и обучать модели машинного обучения в Amazon SageMaker или же использовать предварительно обученные собственные модели, сохранив их в Amazon S3.

Развертывание моделей на подключенном устройстве за несколько щелчков мышью

AWS Greengrass ML Inference упрощает развертывание модели машинного обучения на устройствах прямо из облака. Найти обученные модели, выбрать нужную модель машинного обучения и выполнить ее развертывание на целевых устройствах можно за несколько щелчков мышью в консоли Greengrass. Модель будет развернута и запущена на выбранных подключенных устройствах.

Ускорение получения логических выводов с помощью графических процессоров

AWS Greengrass ML Inference обеспечивает доступ к аппаратным ускорителям, таким как графические процессоры на устройствах. Через консоль Greengrass ускоряющее устройство можно добавить как локальный ресурс Greengrass.

Как это работает

AWS Greengrass ML Inference – Как это работает

Примеры использования

Обработка видео

Чтобы делать прогнозы локально, AWS Greengrass ML Inference можно развертывать на подключенных устройствах, таких как камеры наблюдения, дорожные камеры, нагрудные камеры и медицинское оборудование для визуализации. AWS Greengrass ML Inference позволяет развертывать и запускать такие модели машинного обучения, как распознавание лиц, обнаружение объектов и определение плотности изображений непосредственно на устройстве. Например, дорожная камера может подсчитывать количество велосипедов, транспортных средств и пешеходов, пересекающих перекресток, и определять необходимость регулирования сигналов светофора для оптимизации транспортных потоков и обеспечения безопасности людей.

Розничная торговля и гостиничный бизнес

Предприятия розничной торговли, организаторы круизов и парки развлечений инвестируют в приложения IoT, чтобы улучшить обслуживание клиентов. Например, можно использовать модели обнаружения объектов в парках аттракционов для подсчета посетителей. Камеры могут обнаруживать посетителей и вести их подсчет локально без отправки огромного количества видеоданных в облако, что часто представляет проблему из-за ограниченной пропускной способности интернет-подключений в парках. Такое решение позволяет прогнозировать время ожидания на популярных аттракционах и повышать качество обслуживания клиентов.

Безопасность

Производители камер видеонаблюдения ищут новые способы расширения интеллектуальных возможностей устройств и автоматизации функций обнаружения вторжения. Сервис AWS Greengrass ML Inference позволяет расширить возможности камер видеонаблюдения. Камеры с поддержкой Greengrass способны непрерывно сканировать территорию, обнаруживать изменения, например входящих посетителей, и отправлять оповещения. Камеры могут быстро выполнять анализ обнаруженных сцен локально и отправляют данные в облако только при необходимости (например, для дополнительного анализа, чтобы определить, является ли посетитель членом семьи).

Точное земледелие

Сегодня сельское хозяйство сталкивается с двумя большими проблемами. Во-первых, численность населения в мире продолжает расти, в результате чего спрос на продукты питания превышает предложение. Во-вторых, изменения климата влекут за собой непредсказуемые погодные условия, что негативно влияет на урожайность. AWS Greengrass ML Inference позволяет изменить практику сельхозработ и предоставляет клиентам новые возможности. Камеры с поддержкой Greengrass, установленные в тепличных и фермерских хозяйствах, способны обрабатывать изображения сельскохозяйственных культур и данные, получаемые с датчиков в почве, для выявления природных аномалий, например изменений температуры, влажности и уровня питательных веществ, а также для отправки оповещений.

Профилактическое техническое обслуживание в промышленности

По мере усиления ценовой конкуренции производители ищут новые способы повышения эксплуатационной эффективности заводских цехов. Задержки в выявлении проблем на сборочном конвейере могут привести к потерям времени и ресурсов. AWS Greengrass ML Inference помогает обеспечивать раннее обнаружение неисправного оборудования и неполадок в заводских цехах. Промышленные шлюзы с поддержкой Greengrass способны осуществлять непрерывный мониторинг данных, получаемых с датчиков (например, уровня вибрации и шума), прогнозировать отказы оборудования и принимать соответствующие меры, например отправлять оповещения или отключать питание для сокращения убытков.

Избранные клиенты

Jpeg_FLYING-Y_YANMAR_vertical3

Компания Yanmar использует AWS Greengrass ML Inference в составе IoT-решения для точного земледелия, которое расширяет интеллектуальные возможности ведения тепличного хозяйства за счет автоматического выявления и распознавания основных стадий роста овощей.

DFDS_Logo_Positiv_2016_RGB

IoT-устройства с поддержкой AWS Greengrass ML Inference позволяют компании DFDS прогнозировать и оптимизировать тягу силовых установок морских судов, что дает возможность сократить потребление топлива в масштабах всего флота.

Подробнее о возможностях AWS Greengrass

Перейти на страницу с подробным описанием
Готовы начать работу?
Регистрация
Есть вопросы?
Свяжитесь с нами