AWS IoT Greengrass ML Inference

Bereitstellen optimierter Machine-Learning-Modelle für AWS IoT Greengrass-Geräte

AWS IoT Greengrass vereinfacht die Ausführung von Machine-Learning-Inferenz auf lokalen Geräten mit Modellen, die in der Cloud erstellt, trainiert und optimiert werden. Dabei bietet Ihnen IoT Greengrass die Wahl zwischen Machine-Learning-Modellen aus Amazon SageMaker oder einem eigenen bereits trainierten Modell aus Amazon S3.

Machine Learning nutzt statistische Algorithmen, die aus vorhandenen Daten lernen – dieser Vorgang wird Training genannt –, um Entscheidungen hinsichtlich neuer Daten zu treffen – dies ist der Vorgang der Inferenz. Während des Trainings werden Muster und Beziehungen in den Daten ermittelt, aus denen das Modell entsteht. Mit diesem Modell ist es einem System möglich, intelligente Entscheidungen zu ihm bislang völlig unbekannten Daten zu treffen. Durch Optimierung wird das Modell komprimiert, sodass es schneller ausgeführt werden kann. Erstellung und Training von Machine-Learning-Modellen erfordern umfangreiche Datenverarbeitungsressourcen, sodass dieser Prozess naturgemäß am besten in der Cloud durchgeführt wird. Dagegen erfordert Inferenz eine weitaus geringere Rechenleistung und wird häufig in Echtzeit durchgeführt, wenn neue Daten verfügbar sind. Inferenzergebnisse sollten mit sehr geringer Latenz zur Verfügung stehen, damit Ihre IoT-Anwendungen schnell auf lokale Ereignisse reagieren können.

Mit IoT Greengrass erhalten Sie das Beste aus beiden Welten. Deswegen verwenden Sie in der Cloud entwickelte, trainierte und optimierte Machine-Learning-Modelle, die Sie lokal auf Geräten ausführen. So können Sie beispielsweise in Sage Maker ein prädiktives Modell für die Szenerie-Erkennung erstellen, es für die Ausführung auf jeder Kamera optimieren und es dann bereitstellen, um verdächtige Aktivitäten vorherzusehen und eine entsprechende Warnung zu senden. Daten, die aus der in IoT Greengrass ausgeführten Inferenz erfasst werden, können zurück an SageMaker gesendet werden, wo sie getaggt und zur Verbesserung der Qualität der Machine-Learning-Modelle verwendet werden können.

Vorteile

Flexibel

AWS IoT Greengrass beinhaltet ein vorkonfiguriertes TensorFlow-, Apache MXNet- und Chainer-Paket für Geräte mit Intel Atom, NVIDIA Jetson TX2 und Raspberry Pi. Eine vollständige Neuentwicklung und Konfiguration des Machine-Learning-Frameworks für Ihre Geräte ist daher nicht nötig. Zudem unterstützt AWS IoT Greengrass weitere gängige Frameworks wie Caffe2 und das Microsoft Cognitive Toolkit. Wenn Sie Amazon SageMaker mit IoT Greengrass verwenden, werden die in diesen Frameworks geschriebenen Modelle in portierbaren Code konvertiert, der auf jedem Gerät ausgeführt werden kann. Damit entfällt für Sie jegliche weitere Optimierung am Edge.

Bereitstellen von Modellen für verbundene Geräte mit wenigen Mausklicks

Mit AWS IoT Greengrass können Sie Ihr Machine-Learning-Modell aus der Cloud ganz einfach auf Ihren Geräten bereitstellen. Mit nur wenigen Klicks in der IoT Greengrass-Konsole können Sie trainierte Modelle in Amazon SageMaker oder S3 finden, das gewünschte Modell auswählen und es auf den Zielgeräten bereitstellen. Ihre Modelle werden auf dem verbundenen Gerät Ihrer Wahl bereitgestellt.

Inferenzleistung steigern

Dank Integration mit Amazon SageMaker und dem Deep Learning Compiler können Sie Machine-Learning-Modelle mit einer optimierten Runtime bereitstellen, die im Vergleich zur manuellen Optimierung oder zu Machine-Learning-Frameworks mit bis zur zweifachen Geschwindigkeit läuft. Durch vorkonfigurierte Runtimes für gängige ML-Frameworks und Zielgeräte wie dem Nvidia Jetson TX2-Board bietet Ihnen AWS IoT Greengrass zudem Zugriff auf Hardwarebeschleuniger wie GPUs auf Ihren Geräten.

Ausführung von Inferenz auf mehreren Geräten

Durch Integration mit Amzon SageMaker werden die Modelle bei weniger als einem Zehntel an Arbeitsspeicherbedarf optimiert, sodass die Modelle auch auf Geräten mit eingeschränkten Ressourcen wie Heimüberwachungskameras und Aktuatoren ausgeführt werden können.

Einfache Ausführung von Inferenz auf verbundenen Geräten

Durch die lokale Ausführung von Inferenz auf verbundenen Geräten mit AWS IoT Greengrass reduzieren Sie Latenz und Kosten für das Senden von Gerätedaten an die Cloud, um eine Vorhersage zu treffen. Anstatt alle Daten für die Durchführung der Machine-Learning-Inferenz an die Cloud zu senden, führen Sie die Inferenz direkt auf dem Gerät aus.

Entwicklung präziserer Modelle

Mit AWS können Sie Inferenz ausführen und die Ergebnisse erfassen, Ausreißer ermitteln und die Daten zurück an die Cloud und Amazon SageMaker senden, um die Ergebnisse dort zur Verbesserung des Machine-Learning-Modells neu klassifizieren und taggen zu lassen.

Funktionsweise

AWS Greengrass ML Inference – Funktionsweise

Anwendungsfälle

Videoverarbeitung

AWS IoT Greengrass kann auf verbundenen Geräten wie Sicherheitskameras, Verkehrsüberwachungskameras, Bodycams und Geräten zur medizinischen Bildgebung bereitgestellt werden, um lokale Vorhersagen zu unterstützen. Mit AWS IoT Greengrass können Sie Machine-Learning-Modelle wie Gesichtserkennung, Objekterkennung und Bilddichte direkt auf dem Gerät bereitstellen und ausführen. So könnte eine Verkehrskamera beispielsweise die Fahrräder, Fahrzeuge und Fußgänger zählen, die eine Kreuzung passieren, und erkennen, wenn die Verkehrsampeln angepasst werden müssen, um den Verkehrsfluss zu optimieren und für die Sicherheit der Verkehrsteilnehmer zu sorgen.

Einzelhandel und Hotellerie

Einzelhändler, Kreuzfahrtunternehmen und Vergnügungsparks investieren in IoT-Anwendungen, um einen besseren Kundenservice bereitzustellen. Beispielsweise können Sie Objekterkennungsmodelle in Vergnügungsparks ausführen, um einen Überblick über die Besucherzahlen zu erhalten. Kameras erkennen die Besucher und führen lokal eine laufende Zählung durch, ohne dabei riesige Mengen von Videoaufnahmen in die Cloud zu senden – denn dies stellt aufgrund der beschränkten Internetbandbreite häufig ein Problem dar. Diese Lösung kann Wartezeiten bei beliebten Fahrgeschäften des Vergnügungsparks voraussagen und das Besuchererlebnis verbessern.

Sicherheit

Hersteller von Überwachungskameras suchen neue Möglichkeiten, um Geräte intelligenter zu machen und ihre Erkennungsfunktionen zu automatisieren. AWS IoT Greengrass kann zur Verbesserung der Funktionen von Überwachungskameras beitragen. IoT Greengrass-fähige Kameras können das Gelände kontinuierlich überprüfen, um nach Änderungen der Szenerie, z. B. neuen Besuchern, zu suchen und ggf. eine Warnung zu senden. Die Kameras sind in der Lage, bei der Erkennung der Szenerie schnell lokal eine Analyse durchzuführen und die Daten nur bei Bedarf in die Cloud zu senden, z. B. für eine zusätzliche Analyse, um zu bestimmen, ob der Besucher ein Familienmitglied ist.

Präzisionslandwirtschaft

Die Agrarindustrie steht momentan vor zwei großen Umbrüchen. Einerseits wächst die Weltbevölkerung immer weiter, was dazu führt, dass die Nachfrage nach Nahrungsmitteln höher ist als das Angebot. Andererseits verursacht der Klimawandel unvorhersagbare Wetterverhältnisse und beeinflusst den Ertrag der Ernte. AWS IoT Greengrass kann dazu beitragen, landwirtschaftliche Verfahren umzugestalten und Kunden einen neuen Mehrwert zu bieten. IoT Greengrass-fähige Kameras, die in Gewächshäusern und Landwirtschaftsbetrieben installiert sind, können Aufnahmen von Pflanzen und Anbaukulturen sowie Daten von Sensoren in der Erde verarbeiten, um nicht nur Anomalien in der Umgebung, wie etwa Veränderungen der Temperatur, Feuchtigkeit und Nährstoffwerte, zu erkennen, sondern auch um Warnmeldungen auszulösen.

Vorausschauende industrielle Wartung

Da der Preisdruck auf Hersteller immer weiter steigt, sind diese auf der Suche nach neuen Möglichkeiten, um die Effizienz der Betriebsabläufe in den Fabrikhallen zu steigern. Verzögerungen bei der Erkennung von Problemen bei der Fließbandfertigung können Zeit- als auch Ressourcenverluste verursachen. AWS IoT Greengrass kann Sie bei der frühzeitigen Erkennung von fehlerhaften Geräten und Problemen in der Fabrikhalle unterstützen. IoT Greengrass-fähige industrielle Gateways können Sensordaten (z. B. Vibrationen, Geräuschpegel) kontinuierlich überwachen, Abweichungen vorhersagen und erforderliche Maßnahmen ergreifen, wie etwa Warnmeldungen senden oder die Stromversorgung ausschalten, um Verluste zu minimieren.

Vorgestellte Kunden

Yanmar

Yanmar nutzt AWS IoT Greengrass als Teil seiner Lösung für die IoT-Präzisionslandwirtschaft, mit der die Intelligenz von Gewächshausabläufen durch automatisches Erfassen und Erkennen der wichtigsten Wachstumsstadien von Gemüsepflanzen verbessert wird.

DFDS

Durch AWS IoT Greengrass ML Inference-fähige IoT-Geräte ist es DFDS möglich, den Schiffsantrieb vorherzusehen und zu optimieren und somit den Kraftstoffverbrauch für die gesamte Flotte zu reduzieren.


Vorgestellte Partner

Leopard

"Die Allgegenwärtigkeit der künstlichen Intelligenz und die Geschwindigkeit der digitalen Transformation wachsen in atemberaubendem Tempo. Innovationen wie die neuesten Verbesserungen in AWS IoT Greengrass ML Inference, die die Latenz von ML Inference merklich und ohne Präzisionsverlust verringern, beschleunigen neue Lösungen der im Wachsen begriffenen industriellen Automatisierungsanwendungen für Objekterkennung und -klassifizierung. Die neue, in Leopard Imaging AICam mit NVIDIA® GPU integrierte Machine-Learning-Lösung von AWS wird sich als tragende Säule einer jeden Edge-zu-Cloud-Lösung für Industrie und Smart Citys erweisen."

– Bill Pu, Geschäftsführer und Mitbegründer von Leopard Imaging


Lenovo

"Das durch IoT und AWS geschaffene Potenzial im Bereich Computervision ist schier unendlich und ermöglicht Unternehmen exponentielle Produktivitäts- und Effizienzsteigerungen. In dieser Zeit der intelligenten Transformation bewirken unsere für die industrielle Anwendung geschaffenen Think IoT-Premium-Kameras mit AWS IoT Greengrass und dessen aktuellsten Machine-Learning-Upgrades einen deutlichen Unterschied für Unternehmenskunden."

– Jon Pershke, Vice President of Strategy and Emerging Business, Intelligent Devices


Panasonic

"Vieureka, ein Service von Panasonic, ist überzeugt von den neuen Machine-Learning-Funktionen, die AWS mit AWS IoT Greengrass bereitstellt. Um allen Partnern der AWS-Community Vieureka-Kameras mit Service-Management-Funktionen anbieten zu können, ist es mir ein Anliegen, so schnell wie möglich eine AWS IoT Greengrass-kompatible Version entwickeln. Unsere Umgebung für Entwickler, an der wir gerade arbeiten, wird im Frühjahr 2019 fertiggestellt sein, und unsere kommerziellen Versionen werden noch im Herbst desselben Jahres folgen."

– Miyazaki, CEO of Vieureka Service, Panasonic


ADLINK

"Die Integration von AWS IoT Greengrass mit seinem neuesten ML Inference-Update in den industriellen Bildverarbeitungssystemen von ADLINK lässt Plug-and-Play IoT wahrlich zur Realität werden. Wenn wir heute eine von der Stange gekaufte ADLINK NEON Smart-Kamera mit AWS IoT Greengrass und dem neuen ML Inference-Update einschalten, erhalten wir nahezu im Handumdrehen qualitativ hochwertige Ergebnisse. Dadurch können wir die Entwicklung unserer digitalen IoT-Experimente für unsere Kunden aus den Bereichen Logistik, Qualitätssicherung, industrielle Robotik und anderen Fertigungsbereichen noch schneller vorantreiben."

– Elizabeth Campbell, General Manager, The Americas, ADLINK Technology

Weitere Informationen zu AWS IoT Greengrass-Funktionen

Zur Beschreibung der Funktionen
Sind Sie startbereit?
Zugriff auf die Konsole
Haben Sie noch Fragen?
Kontaktieren Sie uns