AWS Greengrass ML Inference

Déployez des modèles de Machine Learning optimisés pour s’exécuter sur les appareils AWS IoT Greengrass.

AWS IoT Greengrass facilite l'exécution locale de l'inférence de Machine Learning sur les appareils, à l'aide de modèles créés, formés et optimisés dans le cloud. IoT Grengrass vous permet d’utiliser de manière flexible les modèles de Machine Learning dans Amazon Sagemaker ou d’importer votre propre modèle préformé stocké dans Amazon S3.

Le Machine Learning utilise des algorithmes statistiques pouvant apprendre à partir de données existantes (processus formation) afin de prendre des décisions au sujet de nouvelles données (processus inférence). Pendant la formation, les profils et les relations entre les données sont identifiés pour créer un modèle. Ce modèle permet à un système de prendre des décisions intelligentes au sujet de données qu'il n'a pas encore rencontrées. L’optimisation des modèles permet de comprimer la taille du modèle pour en accélérer l’exécution. La formation et l’optimisation des modèles de Machine Learning nécessitent des ressources de calcul massives, de sorte qu'elles conviennent naturellement au cloud. Cependant, l'inférence utilise généralement beaucoup moins de puissance de calcul et se fait souvent en temps réel lorsque de nouvelles données sont disponibles. Obtenir des résultats d'inférence avec une latence très faible est important pour vous assurer que vos applications IoT peuvent rapidement répondre à des événements locaux.

IoT Greengrass réunit tous ces avantages. Il permet, en effet, d’utiliser des modèles de Machine Learning créés, formés et optimisés dans le cloud et d’exécuter localement l’inférence sur les appareils. Par exemple, vous pouvez créer un modèle prédictif dans SageMaker pour analyser la détection de scènes, l’optimiser pour qu’il s’exécute sur n’importe quelle caméra, puis le déployer afin de prédire toute activité suspecte et d’envoyer une alerte. Les données issues de l’exécution de l’inférence sur IoT Greengrass peuvent être renvoyées à SageMaker, en vue d’être balisées et utilisées pour optimiser en continu la qualité des modèles de Machine Learning.

Avantages

Flexible

AWS IoT Greengrass comprend un package TensorFlow, Apache MXNet et Chainer précréé pour des appareils exécutant Intel Atom, NVIDIA Jetson TX2 et Raspberry Pi, ce qui vous épargne de créer et configurer de zéro le framework de Machine Learning pour vos appareils. Par ailleurs, AWS IoT Greengrass est compatible avec les autres frameworks courants, y compris Caffe2 et Microsoft Cognitive Toolkit. Si vous utilisez Amazon SageMaker avec IoT Greengrass, les modèles écrits dans ce framework seront convertis en code portable exécutable sur n’importe quel appareil, ce qui vous épargne toute configuration supplémentaire en périphérie.

Déployez des modèles dans vos appareils connectés en quelques clics

AWS IoT Greengrass facilite le déploiement de votre modèle de Machine Learning depuis le cloud sur vos appareils. En seulement quelques clics sur la console IoT Greengrass, vous pouvez localiser des modèles formés dans Amazon SageMaker ou S3, sélectionner le modèle désiré et le déployer sur les appareils cibles. Vos modèles sont déployés sur l'appareil connecté de votre choix.

Accélérez les performances en matière d'inférence

Grâce à l’intégration d’AWS IoT Greengrass à Amazon SageMaker et Deep Learning Compiler, vous pouvez déployer des modèles de Machine Learning avec une exécution optimisée jusqu’à deux fois plus rapide par rapport à une configuration manuelle ou à l’utilisation des frameworks de Machine Learning. AWS IoT Greengrass vous donne également accès aux accélérateurs matériels, par exemple les GPU de vos appareils, en fournissant des exécutions précréées pour les frameworks de Machine Learning et les appareils cibles courants, à l’instar de la carte Nvidia Jetson TX2.

Exécutez l’inférence sur plus d’appareils

Grâce à leur intégration à Amazon SageMaker, les modèles sont optimisés avec moins de 1/10e d’empreinte mémoire pour permettre leur exécution sur les appareils ayant des contraintes de ressources, par exemple les caméras de sécurité domestiques et les actionneurs.

Exécutez facilement l'inférence sur des appareils connectés

L'exécution locale de l'inférence sur des appareils connectés fonctionnant sous AWS IoT Greengrass permet de réduire la latence et le coût de l'envoi des données de l'appareil dans le cloud pour réaliser des prédictions. Au lieu d’envoyer toutes les données sur le cloud à des fins d’inférence de Machine Learning, vous pouvez exécuter l’inférence directement sur l’appareil.

Créez plus de modèles précis

Avec AWS, vous pouvez exécuter l’inférence et en capturer les résultats, détecter les exceptions, puis renvoyer les données dans le cloud et dans Amazon SageMaker, pour y être reclassifiées et balisées en vue d’optimiser le modèle de Machine Learning.

Fonctionnement

AWS Greengrass ML Inference – Fonctionnement

Cas d'utilisation

Traitement vidéo

AWS IoT Greengrass peut être déployé sur des appareils connectés tels que les caméras de sécurité, les caméras de surveillance du trafic, les caméras corporelles et les équipements d'imagerie médicale, pour les aider à réaliser des prédictions localement. Avec AWS IoT Greengrass, vous pouvez déployer et exécuter des modèles de Machine Learning tels que la reconnaissance faciale, la détection d'objets et la densité des images, directement sur l'appareil. Par exemple, une caméra de surveillance du trafic pourrait compter les cyclistes, les automobilistes et les piétons à une intersection et détecter quand les feux de signalisation doivent être ajustés pour optimiser la circulation et garantir la sécurité des personnes.

Distribution et accueil

Les détaillants, les croisiéristes et les parcs d'attractions investissent dans des applications IoT afin d'assurer un meilleur service client. Par exemple, vous pouvez exécuter des modèles de détection d'objets dans des parcs d'attractions pour suivre le nombre de visiteurs. Les caméras localisent les visiteurs et tiennent localement un décompte à jour sans devoir envoyer un flux vidéo important dans le cloud, ce qui est souvent problématique en raison de la bande passante Internet limitée. Cette solution peut prédire les temps d'attente aux attractions populaires du parc et aider à améliorer l'expérience client.

Sécurité

Les fabricants de caméras de sécurité cherchent de nouvelles façons pour rendre les appareils plus intelligents et pour automatiser leurs capacités de détection des menaces. AWS IoT Greengrass peut aider à améliorer les capacités des caméras de sécurité. Les caméras paramétrées pour IoT Greengrass peuvent continuellement scanner les sites pour rechercher des modifications dans une situation, comme un visiteur en approche, et envoyer une alerte. Les caméras sont capables de procéder, localement, à des analyses rapides de la situation et de n'envoyer des données dans le cloud qu’en cas de nécessité, par exemple pour que des analyses supplémentaires soient effectuées afin d'identifier si un visiteur fait partie de la famille.

Agriculture de précision

L'industrie agricole connaît actuellement deux bouleversements majeurs. Tout d'abord, la population mondiale continue de croître, ce qui fait que la demande de nourriture dépasse l'offre. Ensuite, les changements climatiques provoquent des conditions météorologiques imprévisibles, ce qui affecte le rendement des récoltes. AWS IoT Greengrass peut aider à transformer les habitudes agricoles et à fournir une valeur ajoutée aux clients. Les caméras utilisant IoT Greengrass installées dans des serres et des fermes peuvent traiter les images des plantes et des récoltes, ainsi que les données venant de capteurs présents dans le sol, afin non seulement de détecter des anomalies environnementales, comme un changement dans les niveaux de température, d'humidité et de nutrition, mais également de déclencher des alertes.

Entretien industriel prédictif

Lorsque la pression des prix s'accroît sur les fabricants, ils cherchent de nouvelles façons d'aider à augmenter l'efficacité opérationnelle dans les usines. Les délais dans la détection des problèmes sur la chaîne d'assemblage de l'usine peuvent mener à des pertes de temps et de ressources. AWS IoT Greengrass peut vous aider à détecter plus tôt les équipements défectueux et les problèmes dans l'usine. Les passerelles industrielles fonctionnant avec IoT Greengrass peuvent continuellement surveiller les données émises par les capteurs (par exemple les vibrations ou les niveaux de bruit), prédire des anomalies et prendre les actions appropriées comme envoyer des alertes ou couper le courant pour minimiser les pertes.

Clients présentés

Yanmar

Yanmar utilise AWS IoT Greengrass ML Inference dans le cadre de leur solution d'agriculture de précision IoT permettant d'augmenter l'intelligence des opérations de serre en détectant et reconnaissant automatiquement les principales étapes de croissance des légumes.

DFDS

Les appareils IoT paramétrés pour AWS IoT Greengrass ML Inference permettent à DFDS de prédire et d'optimiser la propulsion des navires, ce qui leur permet de réduire la consommation de carburant pour l'ensemble de leur flotte.


Partenaires présentés

Leopard

« L’omniprésence de l’intelligence artificielle et le rythme de la transformation numérique continuent d’augmenter à une vitesse exponentielle. Les innovations telles que les améliorations de pointe en matière d’AWS IoT Greengrass ML Inference, conduisant à une réduction notable de la latence sans modification de la précision de la ML Inference, permettent de donner un coup d’accélérateur aux nouvelles solutions apportées aux cas d’utilisation de l’automatisation industrielle qui émergent, en ce qui concerne l’identification et la classification des objets. La nouvelle solution de Machine Learning d’AWS intégrée à l’AICam de Leopard Imaging, une caméra équipée du GPU NVIDIA®, constitue à tous points de vue une révolution dans l’univers du cloud industriel et des solutions en matière de villes intelligentes. »

-Bill Pu, Président et cofondateur, Leopard Imaging


Lenovo

« Les entreprises disposent dans la visionique alimentée par l’IoT et l’IA d’un potentiel énorme pour optimiser leur productivité et leur efficacité. À l’ère actuelle de la transformation intelligente, nos caméras industrielles haut de gamme Think IoT équipées d’AWS IoT Greengrass et de fonctionnalités de Machine Learning de pointe sont conçues pour offrir le meilleur aux clients d’entreprises. »

- Jon Pershke, Vice-président chargé des stratégies, des activités émergentes et des appareils intelligents


Panasonic

« La caméra Vieureka de Panasonic utilise de manière optimale les fonctions évolutives de Machine Learning d’AWS qu’offre AWS IoT Greengrass. Je désire développer une version compatible AWS IoT Greengrass le plus tôt possible, afin de mettre les fonctionnalités caméras et de gestion des services de Vieureka à la disposition de tous les partenaires de la communauté AWS. Nous allons créer l’environnement pour les développeurs durant le printemps 2019, avec l’objectif de lancer les versions commerciales en automne de la même année. »

- Miyazaki, PDG, Vieureka Service, Panasonic


ADLINK

« L’intégration d’AWS IoT Greengass, doté de sa dernière mise à jour de ML Inference, sur les systèmes industriels de vision d’ADLINK transforme l’IoT en une solution véritablement « prête à l'emploi ». Désormais, en allumant une caméra intelligente prête à l’emploi ADLINK NEON équipée d’AWS IoT Greengrass et de sa dernière mise à jour de ML Inference, nous pouvons obtenir des résultats d’excellente qualité en un temps plus record. Cela nous permet d’accélérer davantage le développement de nos expérimentations IoT numériques au profit de nos clients, y compris ceux du secteur industriel, de la logistique, du contrôle de qualité, de la robotique industrielle.

- Elizabeth Campbell, Directrice générale, The Americas, ADLINK Technology

En savoir plus sur les fonctionnalités d’AWS IoT Greengrass

Consultez la page des fonctionnalités
Prêt à vous lancer ?
Accédez à la console
D'autres questions ?
Contactez-nous