AWS IoT Greengrass ML Inference

Déployez des modèles de Machine Learning optimisés pour s’exécuter sur les appareils AWS IoT Greengrass.

AWS IoT Greengrass facilite l'exécution locale de l'inférence de machine learning sur les appareils à l'aide de modèles créés, formés et optimisés dans le cloud. IoT Grengrass vous permet d’utiliser de manière flexible les modèles de machine learning formés dans Amazon SageMaker ou d’importer votre propre modèle préformé stocké dans Amazon S3.

Le machine learning utilise des algorithmes statistiques pouvant apprendre à partir de données existantes (processus formation) afin de prendre des décisions au sujet de nouvelles données (processus inférence). Pendant la formation, les profils et les relations entre les données sont identifiés pour créer un modèle. Ce modèle permet à un système de prendre des décisions intelligentes au sujet de données qu'il n'a pas encore rencontrées. L’optimisation des modèles permet de comprimer la taille du modèle pour en accélérer l’exécution. La formation et l’optimisation des modèles de Machine Learning nécessitent des ressources de calcul massives, de sorte qu'elles conviennent naturellement au cloud. Cependant, l'inférence utilise généralement beaucoup moins de puissance de calcul et se fait souvent en temps réel lorsque de nouvelles données sont disponibles. Obtenir des résultats d'inférence avec une latence très faible est important pour être certain que vos applications IoT peuvent rapidement répondre à des événements locaux.

IoT Greengrass réunit tous ces avantages. Il permet, en effet, d’utiliser des modèles de Machine Learning créés, formés et optimisés dans le cloud et d’exécuter localement l’inférence sur les appareils. Par exemple, vous pouvez créer un modèle prédictif dans SageMaker pour analyser la détection de scènes, l’optimiser pour qu’il s’exécute sur n’importe quelle caméra, puis le déployer afin de prédire toute activité suspecte et d’envoyer une alerte. Les données issues de l’exécution de l’inférence sur IoT Greengrass peuvent être renvoyées à SageMaker, en vue d’être balisées et utilisées pour optimiser en continu la qualité des modèles de Machine Learning.

Avantages

Flexible

AWS IoT Greengrass comprend des packages Amazon SageMaker Neo Deep Learning Runtime (DLR), Apache MXNet, TensorFlow et Chainer pré-créés pour des appareils exécutant Intel Atom, NVIDIA Jetson TX2 et Raspberry Pi, ce qui vous épargne la peine de créer et configurer de zéro le cadre de machine learning pour vos appareils. De plus, il fonctionne avec d'autres cadres populaires tels que PyTorch et Caffe2. Si vous utilisez Amazon SageMaker Neo avec IoT Greengrass, les modèles écrits dans ce cadre seront convertis en code portable exécutable sur n'importe quel appareil AWS IoT Greengrass qui comprend l’environnement d’exécution Neo. Par conséquent, vous n’avez plus à faire toute configuration supplémentaire en périphérie.

Déployer des modèles sur vos appareils connectés en quelques clics

AWS IoT Greengrass facilite le déploiement de votre modèle de Machine Learning depuis le cloud sur vos appareils. En seulement quelques clics sur la console IoT Greengrass, vous pouvez localiser des modèles formés dans Amazon SageMaker ou S3, sélectionner le modèle désiré et le déployer sur les appareils cibles. Vos modèles sont déployés sur l'appareil connecté de votre choix.

Accélérer les performances en matière d'inférence

Grâce à l'intégration d'AWS IoT Greengrass à Amazon SageMaker et le compilateur Neo de deep learning, vous pouvez déployer des modèles de machine learning avec un environnement d’exécution optimisée qui fait des exécution jusqu'à deux fois plus rapidement qu’avec une configuration manuelle ou avec l'utilisation des cadres de machine learning. AWS IoT Greengrass vous donne également accès aux accélérateurs matériels, par exemple les GPU de vos appareils, en fournissant des exécutions pré-créées pour les cadres de machine learning et les appareils cibles courants, à l'instar de la carte Nvidia Jetson TX2.

Exécuter l'inférence sur plus d'appareils

Grâce à leur intégration à Amazon SageMaker et le compilateur Neo, les modèles sont optimisés avec moins de 1/10e d'empreinte mémoire pour permettre leur exécution sur les appareils ayant des contraintes de ressources, par exemple les caméras de sécurité domestiques et les actionneurs.

Exécuter facilement l'inférence sur des appareils connectés

L'exécution locale de l'inférence sur des appareils fonctionnant sous AWS IoT Greengrass permet de réduire la latence et le coût de l'envoi des données de l'appareil dans le cloud pour réaliser des prédictions. Vous pouvez exécuter l'inférence directement sur l'appareil plutôt que d'envoyer toutes les données sur le cloud à des fins d'inférence de machine learning.

Créer plus de modèles précis

Avec AWS IoT Greengrass, vous pouvez effectuer des inférences et capturer les résultats, détecter les valeurs aberrantes et renvoyer les données vers le cloud et Amazon SageMaker où elles peuvent être re-classifiées, balisées et utilisées pour la formation de modèle qui permettront d'améliorer le niveau de précision de votre modèle de machine learning.

Fonctionnement

AWS Greengrass ML Inference – Fonctionnement

Cas d'utilisation

Entretien industriel prédictif

Lorsque la pression des prix s'accroît sur les fabricants, ils cherchent de nouvelles façons d'aider à augmenter l'efficacité opérationnelle dans les usines. Les délais dans la détection des problèmes sur la chaîne d'assemblage de l'usine peuvent mener à des pertes de temps et de ressources. AWS IoT Greengrass peut vous aider à détecter plus tôt les équipements défectueux et les problèmes dans l'usine. Les passerelles industrielles fonctionnant avec IoT Greengrass peuvent continuellement surveiller les données émises par les capteurs (par exemple les vibrations ou les niveaux de bruit), prédire des anomalies et prendre les actions appropriées comme envoyer des alertes ou arrêter les équipements afin de limiter les pertes.

Agriculture de précision

L'industrie agricole connaît actuellement deux bouleversements majeurs. Tout d'abord, la population mondiale continue de croître, ce qui fait que la demande de nourriture dépasse l'offre. Ensuite, les changements climatiques provoquent des conditions météorologiques imprévisibles, ce qui affecte le rendement des récoltes. AWS IoT Greengrass peut aider à transformer les habitudes agricoles et à fournir une valeur ajoutée aux clients. Les caméras utilisant IoT Greengrass installées dans des serres et des fermes peuvent traiter les images des plantes et des récoltes, ainsi que les données venant de capteurs présents dans le sol, afin non seulement de détecter des anomalies environnementales comme un changement dans les niveaux de température, d'humidité et de nutrition, mais également de déclencher des alertes.

Sécurité

Les fabricants de caméras de sécurité cherchent de nouvelles façons pour rendre les appareils plus intelligents et pour automatiser leurs capacités de détection des menaces. AWS IoT Greengrass peut aider à améliorer les capacités des caméras de sécurité. Les caméras paramétrées pour IoT Greengrass peuvent continuellement scanner les sites pour rechercher des modifications dans une situation. Par exemple, ils peuvent détecter un visiteur en approche et envoyer une alerte. Elles sont capables d'analyser rapidement la détection de scène en local et d'envoyer des données au cloud uniquement en cas de besoin.

Distribution et accueil

Les détaillants, les croisiéristes et les parcs d'attractions investissent dans des applications IoT afin d'assurer un meilleur service client. Par exemple, vous pouvez exécuter des modèles de détection d'objets dans des parcs d'attractions pour suivre le nombre de visiteurs. Les caméras localisent les visiteurs et tiennent localement un décompte à jour sans devoir envoyer un flux vidéo important dans le cloud, ce qui est souvent problématique en raison de la bande passante Internet limitée. Cette solution peut prédire les temps d'attente aux attractions populaires du parc et aider à améliorer l'expérience client.

Traitement vidéo

AWS IoT Greengrass peut être déployé sur des appareils connectés tels que les caméras de sécurité, les caméras de surveillance du trafic, les caméras corporelles et les équipements d'imagerie médicale, pour les aider à réaliser des prédictions localement. Avec AWS IoT Greengrass, vous pouvez déployer et exécuter des modèles de Machine Learning tels que la reconnaissance faciale, la détection d'objets et la densité des images, directement sur l'appareil. Par exemple, une caméra de surveillance du trafic pourrait compter les cyclistes, les automobilistes et les piétons à une intersection et détecter quand les feux de signalisation doivent être ajustés pour optimiser la circulation et garantir la sécurité des personnes.
Yanmar

AWS IoT Greengrass aide Yanmar à augmenter l'intelligence des opérations de serre en détectant et en reconnaissant automatiquement les principales étapes de la croissance des légumes afin de faire pousser davantage de cultures.

600x400_Electronic-Caregiver_Logo

Le système Electronic Caregiver garantit des soins de qualité avec AWS IoT Greengrass ML Inference et peut transférer des modèles de Machine Learning directement aux appareils périphériques et assurer davantage la sécurité des patients.

600x400_Vantage-Power_Logo

Avec AWS IoT Greengrass, Vantage Power transfère des modèles de Machine Learning aux différents véhicules et détecte les défaillances de batterie un mois à l'avance.


600x400-AdLink-Logo
Leopard
acer

En savoir plus sur les fonctionnalités d'AWS IoT Greengrass

Consultez la page des fonctionnalités
Prêt à vous lancer ?
Accédez à la console
D'autres questions ?
Contactez-nous