AWS Greengrass ML Inference

Déployez des modèles de Machine Learning optimisés pour s’exécuter sur les appareils AWS IoT Greengrass.

AWS IoT Greengrass facilite l'exécution locale de l'inférence de Machine Learning sur les appareils, à l'aide de modèles créés, formés et optimisés dans le cloud. IoT Grengrass vous permet d’utiliser de manière flexible les modèles de Machine Learning dans Amazon SageMaker ou d’importer votre propre modèle préformé stocké dans Amazon S3.

Le Machine Learning utilise des algorithmes statistiques pouvant apprendre à partir de données existantes (processus formation) afin de prendre des décisions au sujet de nouvelles données (processus inférence). Pendant la formation, les profils et les relations entre les données sont identifiés pour créer un modèle. Ce modèle permet à un système de prendre des décisions intelligentes au sujet de données qu'il n'a pas encore rencontrées. L’optimisation des modèles permet de comprimer la taille du modèle pour en accélérer l’exécution. La formation et l’optimisation des modèles de Machine Learning nécessitent des ressources de calcul massives, de sorte qu'elles conviennent naturellement au cloud. Cependant, l'inférence utilise généralement beaucoup moins de puissance de calcul et se fait souvent en temps réel lorsque de nouvelles données sont disponibles. Obtenir des résultats d'inférence avec une latence très faible est important pour vous assurer que vos applications IoT peuvent rapidement répondre à des événements locaux.

IoT Greengrass réunit tous ces avantages. Il permet, en effet, d’utiliser des modèles de Machine Learning créés, formés et optimisés dans le cloud et d’exécuter localement l’inférence sur les appareils. Par exemple, vous pouvez créer un modèle prédictif dans SageMaker pour analyser la détection de scènes, l’optimiser pour qu’il s’exécute sur n’importe quelle caméra, puis le déployer afin de prédire toute activité suspecte et d’envoyer une alerte. Les données issues de l’exécution de l’inférence sur IoT Greengrass peuvent être renvoyées à SageMaker, en vue d’être balisées et utilisées pour optimiser en continu la qualité des modèles de Machine Learning.

Avantages

Flexible

AWS IoT Greengrass comprend un package TensorFlow, Apache MXNet et Chainer précréé pour des appareils exécutant Intel Atom, NVIDIA Jetson TX2 et Raspberry Pi, ce qui vous épargne de créer et configurer de zéro le framework de Machine Learning pour vos appareils. Par ailleurs, AWS IoT Greengrass est compatible avec les autres frameworks courants, y compris Caffe2 et Microsoft Cognitive Toolkit. Si vous utilisez Amazon SageMaker avec IoT Greengrass, les modèles écrits dans ce framework seront convertis en code portable exécutable sur n'importe quel appareil, ce qui vous épargne toute configuration supplémentaire en périphérie.

Déployez des modèles sur vos appareils connectés en quelques clics

AWS IoT Greengrass facilite le déploiement de votre modèle de Machine Learning depuis le cloud sur vos appareils. En seulement quelques clics sur la console IoT Greengrass, vous pouvez localiser des modèles formés dans Amazon SageMaker ou S3, sélectionner le modèle désiré et le déployer sur les appareils cibles. Vos modèles sont déployés sur l'appareil connecté de votre choix.

Accélérez les performances en matière d'inférence

Grâce à l'intégration d'AWS IoT Greengrass à Amazon SageMaker et Deep Learning Compiler, vous pouvez déployer des modèles de Machine Learning avec une exécution optimisée jusqu'à deux fois plus rapide par rapport à une configuration manuelle ou à l'utilisation des frameworks de Machine Learning. AWS IoT Greengrass vous donne également accès aux accélérateurs matériels, par exemple les GPU de vos appareils, en fournissant des exécutions pré-créées pour les frameworks de Machine Learning et les appareils cibles courants, à l'instar de la carte Nvidia Jetson TX2.

Exécutez l'inférence sur plus d'appareils

Grâce à leur intégration à Amazon SageMaker, les modèles sont optimisés avec moins de 1/10e d'empreinte mémoire pour permettre leur exécution sur les appareils ayant des contraintes de ressources, par exemple les caméras de sécurité domestiques et les actionneurs.

Exécutez facilement l'inférence sur des appareils connectés

L'exécution locale de l'inférence sur des appareils connectés fonctionnant sous AWS IoT Greengrass permet de réduire la latence et le coût de l'envoi des données de l'appareil dans le cloud pour réaliser des prédictions. Au lieu d'envoyer toutes les données sur le cloud à des fins d'inférence de Machine Learning, vous pouvez exécuter l'inférence directement sur l'appareil.

Créez plus de modèles précis

Avec AWS, vous pouvez exécuter l'inférence et en capturer les résultats, détecter les exceptions, puis renvoyer les données dans le cloud et dans Amazon SageMaker, pour y être reclassifiées et balisées en vue d'optimiser le modèle de Machine Learning.

Fonctionnement

AWS Greengrass ML Inference – Fonctionnement

Cas d'utilisation

Traitement vidéo

AWS IoT Greengrass peut être déployé sur des appareils connectés tels que les caméras de sécurité, les caméras de surveillance du trafic, les caméras corporelles et les équipements d'imagerie médicale, pour les aider à réaliser des prédictions localement. Avec AWS IoT Greengrass, vous pouvez déployer et exécuter des modèles de Machine Learning tels que la reconnaissance faciale, la détection d'objets et la densité des images, directement sur l'appareil. Par exemple, une caméra de surveillance du trafic pourrait compter les cyclistes, les automobilistes et les piétons à une intersection et détecter quand les feux de signalisation doivent être ajustés pour optimiser la circulation et garantir la sécurité des personnes.

Distribution et accueil

Les détaillants, les croisiéristes et les parcs d'attractions investissent dans des applications IoT afin d'assurer un meilleur service client. Par exemple, vous pouvez exécuter des modèles de détection d'objets dans des parcs d'attractions pour suivre le nombre de visiteurs. Les caméras localisent les visiteurs et tiennent localement un décompte à jour sans devoir envoyer un flux vidéo important dans le cloud, ce qui est souvent problématique en raison de la bande passante Internet limitée. Cette solution peut prédire les temps d'attente aux attractions populaires du parc et aider à améliorer l'expérience client.

Sécurité

Les fabricants de caméras de sécurité cherchent de nouvelles façons pour rendre les appareils plus intelligents et pour automatiser leurs capacités de détection des menaces. AWS IoT Greengrass peut aider à améliorer les capacités des caméras de sécurité. Les caméras paramétrées pour IoT Greengrass peuvent continuellement scanner les sites pour rechercher des modifications dans une situation, comme un visiteur en approche, et envoyer une alerte. Les caméras sont capables de procéder, localement, à des analyses rapides de la situation et de n'envoyer des données dans le cloud qu'en cas de nécessité, par exemple pour que des analyses supplémentaires soient effectuées afin d'identifier si un visiteur fait partie de la famille.

Agriculture de précision

L'industrie agricole connaît actuellement deux bouleversements majeurs. Tout d'abord, la population mondiale continue de croître, ce qui fait que la demande de nourriture dépasse l'offre. Ensuite, les changements climatiques provoquent des conditions météorologiques imprévisibles, ce qui affecte le rendement des récoltes. AWS IoT Greengrass peut aider à transformer les habitudes agricoles et à fournir une valeur ajoutée aux clients. Les caméras utilisant IoT Greengrass installées dans des serres et des fermes peuvent traiter les images des plantes et des récoltes, ainsi que les données venant de capteurs présents dans le sol, afin non seulement de détecter des anomalies environnementales, comme un changement dans les niveaux de température, d'humidité et de nutrition, mais également de déclencher des alertes.

Entretien industriel prédictif

Lorsque la pression des prix s'accroît sur les fabricants, ils cherchent de nouvelles façons d'aider à augmenter l'efficacité opérationnelle dans les usines. Les délais dans la détection des problèmes sur la chaîne d'assemblage de l'usine peuvent mener à des pertes de temps et de ressources. AWS IoT Greengrass peut vous aider à détecter plus tôt les équipements défectueux et les problèmes dans l'usine. Les passerelles industrielles fonctionnant avec IoT Greengrass peuvent continuellement surveiller les données émises par les capteurs (par exemple les vibrations ou les niveaux de bruit), prédire des anomalies et prendre les actions appropriées comme envoyer des alertes ou couper le courant pour minimiser les pertes.
Yanmar

AWS IoT Greengrass aide Yanmar à augmenter l'intelligence des opérations de serre en détectant et en reconnaissant automatiquement les principales étapes de la croissance des légumes afin de faire pousser davantage de cultures.

600x400_Electronic-Caregiver_Logo

Le système Electronic Caregiver garantit des soins de qualité avec AWS IoT Greengrass ML Inference et peut transférer des modèles de Machine Learning directement aux appareils périphériques et assurer davantage la sécurité des patients.

600x400_Vantage-Power_Logo

Avec AWS IoT Greengrass, Vantage Power transfère des modèles de Machine Learning aux différents véhicules et détecte les défaillances de batterie un mois à l'avance.


Leopard
acer

En savoir plus sur les fonctionnalités d'AWS IoT Greengrass

Consultez la page des fonctionnalités
Prêt à vous lancer ?
Accédez à la console
D'autres questions ?
Contactez-nous