ML Inference per AWS IoT Greengrass

Distribuzione di modelli di machine learning ottimizzati per l'esecuzione su dispositivi AWS IoT Greengrass

AWS IoT Greengrass semplifica l'inferenza di machine learning in locale sui dispositivi, mediante modelli creati, formati e ottimizzati nel cloud. IoT Greengrass ti offre la flessibilità di utilizzare modelli di machine learning in Amazon SageMaker o di portare il tuo modello pre-formato in Amazon S3.

Il machine learning usa algoritmi di calcolo statistico che traggono informazioni dai dati esistenti secondo un processo definito addestramento, per prendere decisioni sui nuovi set di dati, un processo definito inferenza. Durante l'addestramento, sono individuati pattern e relazioni tra i dati per la costruzione di un modello. Il modello permette a un sistema di prendere decisioni intelligenti sui nuovi dati sottoposti. L'ottimizzazione dei modelli comprime le dimensioni del modello in modo che venga eseguito rapidamente. L'addestramento e l'ottimizzazione di modelli di machine learning richiede elevate quantità di risorse di elaborazione, ecco perché il cloud è l'ambiente più appropriato. Tuttavia, l'inferenza richiede minore potenza di elaborazione e può essere eseguita in tempo reale. Ottenere risultati di inferenza con latenza molto bassa è importante per permettere alle applicazioni IoT di rispondere rapidamente agli eventi di carattere locale.

IoT Greengrass offre il meglio dei due mondi. Utilizza modelli di machine learning costruiti, addestrati e ottimizzati nel cloud ed esegui l'inferenza localmente sui dispositivi. Ad esempio, puoi creare un modello predittivo in SageMaker per l'analisi di rilevamento del rilevamento delle scene, ottimizzarlo per l'esecuzione su qualsiasi telecamera e quindi distribuirlo per prevedere attività sospette e inviare un avviso. I dati raccolti dall'inferenza in esecuzione su IoT Greengrass possono essere inviati a SageMaker dove possono essere taggati e utilizzati per migliorare continuamente la qualità dei modelli di machine learning.

Vantaggi

Flessibilità

AWS IoT Greengrass include un pacchetto TensorFlow, Apache MXNet e Chainer preinstallato per dispositivi basati su Intel Atom, NVIDIA Jetson TX2 e Raspberry Pi, quindi non è necessario creare e configurare il framework di machine learning per i propri dispositivi da zero. Inoltre, funziona con altri dei framework più diffusi, come Caffe2 e il Microsoft Cognitive Toolkit. Se utilizzi Amazon SageMaker con IoT Greengrass, i modelli scritti in questo framework vengono convertiti in un codice portatile che verrà eseguito su qualsiasi dispositivo in modo da non dover eseguire ulteriori operazioni di ottimizzazione ai margini.

Distribuzione di modelli nei dispositivi collegati in pochi clic

AWS IoT Greengrass rende estremamente semplice distribuire un modello di machine learning dal cloud nei dispositivi. Sono sufficienti pochi clic nella console di IoT Greengrass per cercare i modelli già sottoposti ad addestramento in Amazon SageMaker o S3, selezionarne uno e distribuirlo sui dispositivi scelti. I modelli verranno distribuiti su tali dispositivi.

Accelerazione delle prestazioni di inferenza

Tramite l'integrazione con Amazon SageMaker e il Deep Learning Compiler, è possibile distribuire modelli di machine learning con un runtime ottimizzato che può essere eseguito fino a due volte più velocemente rispetto all'ottimizzazione manuale o utilizzando framework di machine learning. AWS IoT Greengrass ti consente inoltre di accedere a d acceleratori hardware, come GPU sui dispositivi, fornendo runtime pre-costruiti per i comuni framework ML e dispositivi di destinazione, come la scheda Nvidia Jetson TX2.

Eseguire inferenze su più dispositivi

Utilizzando l'integrazione con Amazon SageMaker, i modelli sono ottimizzati con meno di un decimo del footprint di memoria in modo che possano essere eseguiti su dispositivi con risorse limitate come telecamere di sicurezza domestica e attuatori.

Semplice esecuzione dell'inferenza su dispositivi collegati

Effettuare un'inferenza sui dispositivi AWS IoT Greengrass collegati a livello locale riduce la latenza e il costo di invio dei dati del dispositivo al cloud per effettuare una previsione. Invece di inviare tutti i dati nel cloud per eseguire inferenze di machine learning, esegui le inferenze direttamente all'interno dei dispositivi.

Costruzione di modelli più accurati

Utilizzando AWS, puoi eseguire l'inferenza e acquisire i risultati, rilevare i valori anomali e inviare dati al cloud e Amazon SageMaker, dove può essere riclassificato e taggato per migliorare il modello di machine learning.

Come funziona

ML Inference per AWS Greengrass – Come funziona

Casi d'uso

Elaborazione video

AWS IoT Greengrass può essere distribuito sui dispositivi collegati come videocamere di sicurezza, telecamere di monitoraggio del traffico, videocamere indossabili e apparecchiature di imaging medico, per aiutarli a effettuare previsioni locali. Con AWS IoT Greengrass puoi distribuire ed eseguire modelli di machine learning come riconoscimento facciale, rilevamento di oggetti e densità di immagine direttamente sul dispositivo. Ad esempio, una telecamera di monitoraggio del traffico può contare biciclette, veicoli e pedoni che passano da un incrocio e rilevare quando è necessario regolare i segnali stradali per ottimizzare i flussi di traffico e tenere le persone al sicuro.

Vendita al dettaglio e accoglienza

Rivenditori al dettaglio, compagnie di crociere e parchi di divertimenti stanno investendo nelle applicazioni IoT per fornire un miglior servizio ai clienti. Ad esempio, è possibile eseguire modelli di rilevamento di oggetti in un parco divertimenti per tenere il conto del numero di visitatori. Le videocamere saranno in grado di distinguere i singoli visitatori e conserveranno in locale il conteggio numerico senza dover inviare enormi volumi di feed video nel cloud, spesso una situazione non sostenibile in luoghi in cui la larghezza di banda Internet è limitata. Questa soluzione permetterà di prevedere i tempi di attesa nelle giostre più popolari e aiuterà a migliorare l'esperienza dei visitatori.

Sicurezza

I produttori di videocamere di sicurezza sono sempre alla ricerca di nuovi modi per rendere i loro dispositivi più intelligenti e automatizzare il rilevamento di eventuali minacce. AWS IoT Greengrass può aiutare a migliorare le funzionalità delle fotocamere di sicurezza. Le fotocamere compatibili con IoT Greengrass scansionano in modo continuo gli ambienti e rilevano variazioni, ad esempio l'arrivo di una persona, inviando quindi un avviso. Le videocamere saranno in grado di eseguire analisi di rilevamento degli ambienti in locale, inviando i dati nel cloud solo quando necessario, ad esempio per ottenere ulteriori analisi e identificare il visitatore.

Agricoltura di precisione

Il settore agricolo sta attraversando due grandi rivoluzioni. Prima di tutto, la popolazione mondiale è in costante crescita e la domanda di cibo supera l'offerta. Secondariamente, i cambiamenti climatici stanno provocando eventi meteorologici imprevedibili che influiscono sui raccolti. AWS IoT Greengrass può aiutare a trasformare le prassi agricole e offrire valore aggiunto ai clienti. Le videocamere compatibili con IoT Greengrass installate nelle serre sono in grado di elaborare immagini di piante e colture e dati provenienti dai sensori nel suolo non solo per rilevare anomalie ambientali (ad es. variazioni di temperatura, umidità o nutrienti), ma anche per inviare allarmi.

Manutenzione industriale predittiva

La pressione sui prezzi è sempre maggiore, perciò le aziende manifatturiere sono sempre in cerca di nuovi modi per migliorare l'efficienza operativa nei propri stabilimenti. Se un problema nella linea di produzione non viene rilevato per tempo, le perdite di tempo e risorse possono essere rilevanti. AWS IoT Greengrass permette di rilevare in modo tempestivo apparecchiature guaste e problemi nello stabilimento. I gateway industriali IoT compatibili con Greengrass sono in grado di monitorare in modo continuo i dati provenienti dai sensori (ad es. le vibrazioni e i livelli di rumore), prevedere anomalie e intraprendere azioni correttive, ad esempio inviare avvisi o interrompere l'alimentazione per evitare perdite maggiori.

Clienti in evidenza

Yanmar

Yanmar sfrutta AWS IoT Greengrass all'interno della sua soluzione di agricoltura di precisione IoT, che migliora l'intelligence nelle serre rilevando e identificando automaticamente le fasi di crescita principali dei prodotti.

DFDS

I dispositivi IoT compatibili con ML Inference per AWS IoT Greengrass permettono a DFDS di prevedere e ottimizzare la propulsione delle proprie navi, riducendo così il consumo di carburante dell'intera flotta.


Partner in evidenza

Leopard

"La pervasività dell'intelligenza artificiale e il ritmo della trasformazione digitale continuano a crescere a un tasso impressionante. Innovazioni come i più recenti miglioramenti di AWS IoT Greengrass ML Inference, che riducono notevolmente la latenza senza diminuire l'accuratezza dell'inferenza ML, accelerano nuove soluzioni ai casi di utilizzo dell'automazione industriale emergenti per l'identificazione e la classificazione degli oggetti. La nuova soluzione di machine learning di AWS integrata con AICam di Leopard Imaging basata sulla GPU NVIDIA® sarà una pietra miliare in ogni soluzione di Industrial and Smart City "edge to cloud".

- Bill Pu, Presidente e cofondatore, Leopard Imaging


Lenovo

"Il potenziale dei casi di utilizzo di computer vision abilitati dallo IoT e dalle AI è vasto per le aziende che desiderano migliorare esponenzialmente la produttività e l'efficienza. In questo momento di trasformazione intelligente, le nostre fotocamere industriali Think IoT premium alimentate da AWS IoT Greengrass con gli ultimi aggiornamenti di machine learning sono progettate per fare una notevole differenza con i clienti aziendali".

- Jon Pershke, Vicepresidente della strategia e mercati emergenti, dispositivi intelligenti


Panasonic

"Vieureka di Panasonic è molto lieta di utilizzare le funzioni in evoluzione del machine learning di AWS abilitato da AWS IoT Greengrass. Per offrire le videocamere Vieureka e le funzioni di gestione dei servizi a tutti i partner della community AWS, vorrei sviluppare una versione compatibile con AWS IoT Greengrass il prima possibile. Creeremo l'ambiente per gli sviluppatori nella primavera del 2019, con versioni commerciali disponibili nell'autunno dello stesso anno".

- Miyazaki, CEO di Vieureka Service, Panasonic


ADLINK

"L'aggiunta di AWS IoT Greengrass con il suo ultimo aggiornamento ML Inference eseguito sui sistemi di visione industriale di ADLINK rende l'IoT veramente plug-and-play. Ora, quando accendiamo una smart camera ADLINK NEON pronta all'uso che esegue AWS IoT Greengrass con il suo ultimo aggiornamento ML Inference, possiamo ottenere risultati di alta qualità molto, molto più velocemente. Questo ci consente di accelerare ulteriormente lo sviluppo dei nostri esperimenti digitali IoT per la nostra logistica, controllo qualità, robotica industriale e altri clienti del settore manifatturiero".

- Elizabeth Campbell, General Manager, The Americas, ADLINK Technology

Ulteriori informazioni sulle caratteristiche di AWS IoT Greengrass

Visita la pagina delle caratteristiche
Sei pronto per iniziare?
Accesso alla console
Hai altre domande?
Contattaci