Amazon SageMaker Edge

Exécutez facilement des modèles de machine learning (ML) sur des appareils périphériques

Optimisez les modèles entraînés dans TensorFlow, MXNet, PyTorch, XGBoost et TensorFlow Lite afin de pouvoir les déployer sur n'importe quel appareil

Déployez des modèles sur une flotte d'appareils sans tenir compte des mises à jour du micrologiciel et de l'application

Améliorez les modèles en continu grâce à la saisie de données intelligentes à des fins de réentraînement des modèles

Créez des pipelines MLOps automatisés pour toutes les flottes d'appareils, des serveurs périphériques aux caméras intelligentes et capteurs IoT

Créez et améliorez les modèles pour qu'ils gagnent en précision

L'agent SageMaker Edge vous permet de collecter des données et des métadonnées en fonction de déclencheurs que vous définissez, afin de pouvoir reformer vos modèles en utilisant des données du monde réel ou d'en créer. Par ailleurs, ces données peuvent être utilisées pour mener votre propre analyse, par exemple l'analyse de la dérive de modèles.

SageMaker Edge - Capturing data from your edge device - Amazon Web Services (6:24)

Méthodes de déploiement offertes

Nous offrons trois options de déploiement. GGv2 (~ taille 100 Mo) est un mécanisme de déploiement AWS IoT entièrement intégré. Nous proposons aux clients disposant d'un appareil à capacité limitée un mécanisme de déploiement intégré plus petit dans SageMaker Edge. Quant à ceux qui ont un mécanisme de déploiement préféré, nous proposons des mécanismes tiers qui peuvent être intégrés à notre flux d'utilisateurs.

SageMaker Edge - Quick device setup demo - Amazon Web Services (8:21)

Le tableau de bord visuel vous permet de contrôler votre flotte d'appareils.

Amazon SageMaker Edge Manager fournit un tableau de bord qui vous permet de comprendre les performances des modèles exécutés sur chaque appareil de votre flotte. Le tableau de bord vous aide à comprendre visuellement l'état général de la flotte et à identifier les modèles problématiques via un tableau de bord dans la console. Lorsqu'un problème est identifié, vous pouvez collecter des données de modèle, réétiqueter les données, réentraîner et redéployer le modèle.

Optimiser les modèles de ML pour une large gamme d'appareils

Le compilateur Amazon SageMaker Edge optimise automatiquement les modèles de ML en vue de leur déploiement sur de nombreux appareils périphériques. SageMaker Edge Compiler compile votre modèle entraîné en un format exécutable qui applique des optimisations de performances spécifiques susceptibles de multiplier par 25 la vitesse d'exécution de votre modèle sur le matériel cible.

SageMaker Edge - Compilation demo - Amazon Web Services (5:49)

Prise en charge de la sécurité et de la conformité

Amazon SageMaker Edge intègre le modèle de ML en le signant avec des clés fournies par le client ou des clés AWS. L'agent Edge authentifie la signature et vérifie également que le modèle n'a pas été altéré avant de le charger dans l'exécution.
 
SageMaker Edge - Packaging a model demo - Amazon Web Services (4:24)

Clients

Logo du client Lenovo

Lenovo™, le premier fabricant mondial de PC, a récemment intégré Amazon SageMaker à sa dernière offre de maintenance prédictive.  

« Le nouveau SageMaker Edge Manager aidera à éliminer l'effort manuel nécessaire pour optimiser, surveiller et améliorer continuellement les modèles après le déploiement. Avec lui, nous prévoyons que nos modèles s'exécuteront plus rapidement et consommeront moins de mémoire qu'avec d'autres plateformes comparables de machine learning. SageMaker Edge Manager nous permet d'échantillonner automatiquement les données à la périphérie, de les envoyer en toute sécurité vers le cloud et de surveiller en permanence la qualité de chaque modèle sur chaque appareil après le déploiement. Cela nous permet de surveiller, d'améliorer et de mettre à jour à distance les modèles de nos appareils de périphérie dans le monde entier, tout en faisant gagner du temps et en réduisant les coûts pour nous et nos clients. »

Igor Bergman, vice-président de Lenovo, Cloud et logiciels des PC et des appareils intelligents.

Logo du client Basler

Basler AG est l'un des principaux fabricants d'appareils photo numériques et d'accessoires de haute qualité pour l'industrie, la médecine, les transports et divers autres marchés.

Basler AG fournit des solutions d'aide visuelle par ordinateur dans divers industries, y compris des applications de fabrication, médicales et de vente au détail. Nous sommes heureux d'élargir notre offre logicielle grâce aux nouvelles fonctionnalités rendues possibles par Amazon SageMaker Edge Manager. Pour que nos solutions de machine learning soient performantes et fiables, nous avons besoin d'un outil MLOps évolutif de la périphérie au cloud qui nous permet de surveiller, de maintenir et d'améliorer en permanence les modèles de machine learning sur les appareils de périphérie. SageMaker Edge Manager nous permet d'échantillonner automatiquement les données à la périphérie, de les envoyer en toute sécurité vers le cloud et de surveiller en permanence la qualité de chaque modèle sur chaque appareil après le déploiement. Cela nous permet de surveiller, d'améliorer et de mettre à jour à distance les modèles de nos appareils de périphérie dans le monde entier, tout en faisant gagner du temps et en réduisant les coûts pour nous et nos clients. »

Mark Hebbel, responsable des solutions logicielles chez Basler.

Ressources

BLOG

Créer des modèles de ML à la périphérie

Blog

Exécuter des modèles de ML à la périphérie

atelier

Atelier SageMaker Edge Manager

vidéo

MLOps for edge devices with Amazon SageMaker Edge Manager

Nouveautés

Date (de la plus récente à la plus ancienne)
  • Date (de la plus récente à la plus ancienne)
1
Aucun résultat correspondant