AWS Greengrass ML Inference

Machine-Learning-Modelle auf AWS Greengrass-Geräten ausführen

AWS Greengrass ist eine Software, mit der Sie auf sichere Weise lokale Datenverarbeitungs- , Messaging-, Datencaching- und Synchronisierungsvorgänge für verbundene Geräte ausführen können. Mit AWS Greengrass können verbundene Geräte AWS Lambda-Funktionen ausführen, Gerätedaten synchronisiert halten und sicher mit anderen Geräten kommunizieren – auch ohne Verbindung zum Internet. Mit der AWS Greengrass Machine Learning (ML) Inference-Funktion können Sie nun auch ML-Inferenz problemlos auf angeschlossenen Geräten lokal ausführen.

Beim maschinellen Lernen werden statistische Algorithmen genutzt, die aus vorhandenen Daten lernen – dieser Vorgang wird Training genannt –, um Entscheidungen hinsichtlich neuer Daten zu treffen – dies ist der Vorgang der Inferenz. Während des Trainings werden Muster und Beziehungen in den Daten identifiziert, um ein Modell für das Treffen von Entscheidungen zu erstellen. Mit diesem Modell ist es einem System dann möglich, intelligente Entscheidungen über Daten zu treffen, die es zuvor nicht kannte. Das Schulen von ML-Modellen erfordert umfangreiche Datenverarbeitungsressourcen, sodass dieser Prozess naturgemäß am besten in der Cloud durchgeführt wird. Inferenz erfordert in der Regel jedoch eine weitaus geringere Rechenleistung und wird häufig in Echtzeit durchgeführt, wenn neue Daten verfügbar sind. Daher ist es wichtig, dass Inferenzergebnisse mit sehr kurzer Latenz erreicht werden, damit Ihre IoT-Anwendungen schnell auf lokale Ereignisse reagieren können.

Mit AWS Greengrass ML Inference erhalten Sie das Beste aus beiden Welten. Sie verwenden in der Cloud erstellte und trainierte ML-Modelle und stellen ML-Inferenz lokal auf angeschlossenen Geräten bereit und führen sie darauf aus. Beispielsweise können Sie in Amazon SageMaker ein Prognosemodell für die Analyse bei der Erkennung von Szenen erstellen und es dann lokal auf einer Greengrass-fähigen Überwachungskamera ausführen, die über keine Verbindung zur Cloud verfügt, aber eine Prognose erstellt und eine Warnmeldung sendet, wenn ein neuer Besucher erkannt wird.

Vorteile

Einfache Ausführung von ML-Inferenz auf angeschlossenen Geräten

Durch die lokale Ausführung von Inferenz auf angeschlossenen Geräten reduzieren Sie die Latenzzeit und die Kosten für das Senden von Gerätedaten an die Cloud, um eine Vorhersage zu treffen. Anstatt alle Daten für die Durchführung der ML-Inferenz in die Cloud zu senden, können Sie Inferenz mit der ML Inference-Funktion von Greengrass direkt auf dem Gerät ausführen. Die Daten werden nur in die Cloud gesendet, wenn eine zusätzliche Verarbeitung erforderlich ist.

Flexibel

Greengrass ML Inference beinhaltet ein vorkonfiguriertes TensorFlow-, Apache MXNet- und Chainer-Paket für alle Intel Atom-, NVIDIA Jetson TX2- und Raspberry Pi-Geräte. Sie müssen das ML-Framework für Ihre Geräte also nicht selbst neu erstellen und konfigurieren. Zusätzlich zu TensorFlow, Apache MXNet und Chainer unterstützt Greengrass ML auch andere gängige Frameworks wie etwa Caffe2 und das Microsoft Cognitive Toolkit. Mit Greengrass ML Inference können Sie Ihr ML-Model auch flexibel in Amazon SageMaker erstellen und trainieren oder Ihr in Amazon S3 gespeichertes, eigenes vortrainiertes Modell verwenden.

Modelle mit ein paar Mausklicks für Ihr angeschlossenes Gerät bereitstellen

Mit AWS Greengrass ML Inference können Sie problemlos Ihr Modell zum maschinellen Lernen von der Cloud auf Ihren Geräten bereitstellen. Mit nur wenigen Klicks können Sie trainierte Modelle in der Greengrass-Konsole finden, das gewünschte ML-Modell auswählen und es auf den Zielgeräten bereitstellen. Ihre Modelle werden bereitgestellt und auf dem verbundenen Gerät Ihrer Wahl ausgeführt.

Inferenz-Leistung mit GPUs steigern

AWS Greengrass ML Inference gibt Ihnen Zugriff auf Hardware-Accelerator wie z. B. GPUs auf Ihren Geräten, indem das Accelerator-Gerät als lokale Greengrass-Ressource in die Greengrass-Konsole integriert wird.

Funktionsweise

AWS Greengrass ML Inference – Funktionsweise

Anwendungsfälle

Videoverarbeitung

AWS Greengrass ML Inference kann auf angeschlossenen Geräten wie Sicherheitskameras, Verkehrskameras, Bodycams und Ausrüstung zur medizinischen Bildgebung bereitgestellt werden, um lokale Vorhersagen zu unterstützen. Mit AWS Greengrass ML Inference können Sie ML-Modelle wie Gesichtserkennung, Objekterkennung und Image-Dichte direkt auf dem Gerät bereitstellen und ausführen. So könnte eine Verkehrskamera beispielsweise die Fahrräder, Fahrzeuge und Fußgänger zählen, die eine Kreuzung passieren, und erkennen, wenn die Verkehrsampeln angepasst werden müssen, um den Verkehrsfluss zu optimieren und für die Sicherheit der Verkehrsteilnehmer zu sorgen.

Einzelhandel und Hotellerie

Einzelhändler, Kreuzfahrtunternehmen und Vergnügungsparks investieren in IoT-Anwendungen, um einen besseren Kundenservice bereitzustellen. Beispielsweise können Sie Objekterkennungsmodelle in Vergnügungsparks ausführen, um einen Überblick über die Besucherzahlen zu erhalten. Kameras erkennen die Besucher und führen lokal eine laufende Zählung durch, ohne dabei riesige Mengen von Videoaufnahmen in die Cloud zu senden – denn dies stellt aufgrund der beschränkten Internetbandbreite in solchen Parks häufig ein Problem dar. Diese Lösung kann Wartezeiten bei beliebten Fahrgeschäften des Vergnügungsparks voraussagen und das Besuchererlebnis verbessern.

Sicherheit

Hersteller von Überwachungskameras suchen neue Möglichkeiten, um Geräte intelligenter zu machen und ihre Erkennungsfunktionen zu automatisieren. AWS Greengrass ML Inference kann zur Verbesserung der Funktionen von Überwachungskameras beitragen. Greengrass-fähige Kameras können das Gelände kontinuierlich überprüfen, um nach Änderungen in der Szene, z. B. neue Besucher, zu suchen und eine Warnmeldung zu senden. Die Kameras sind in der Lage, bei der Erkennung der Szene schnell lokal eine Analyse durchzuführen und die Daten nur bei Bedarf in die Cloud zu senden, z. B. für eine zusätzliche Analyse um zu bestimmen, ob der Besucher ein Familienmitglied ist.

Präzisionslandwirtschaft

Die Agrarindustrie steht momentan vor zwei großen Umbrüchen. Einerseits wächst die Weltbevölkerung immer weiter, was dazu führt, dass die Nachfrage nach Nahrungsmitteln höher ist als das Angebot. Andererseits verursacht der Klimawandel unvorhersagbare Wetterverhältnisse und beeinflusst den Ertrag der Ernte. AWS Greengrass ML Inference kann dazu beitragen, landwirtschaftliche Verfahren umzugestalten und Kunden einen neuen Mehrwert zu bieten. Greengrass-fähige Kameras, die in Gewächshäusern und Landwirtschaftsbetrieben installiert werden, können Aufnahmen von Pflanzen und Anbaukulturen sowie Daten von Sensoren in der Erde verarbeiten, um nicht nur Anomalien in der Umgebung, wie etwa Veränderungen der Temperatur, Feuchtigkeit und Nährstoffwerte zu erkennen, sondern auch um Warnmeldungen auszulösen.

Vorausschauende industrielle Wartung

Da der Preisdruck auf Hersteller immer weiter steigt, sind diese auf der Suche nach neuen Möglichkeiten, um die Effizienz der Betriebsabläufe in den Fabrikhallen zu steigern. Verzögerungen bei der Erkennung von Problemen bei der Fließbandfertigung können Zeit- als auch Ressourcenverluste verursachen. AWS Greengrass ML Inference kann Sie bei der frühzeitigen Erkennung von fehlerhaften Geräten und Problemen in der Fabrikhalle unterstützen. Greengrass-fähige industrielle Gateways können Sensordaten (z. B. Vibrationen, Geräuschpegel) kontinuierlich überwachen, Abweichungen vorhersagen und erforderliche Maßnahmen ergreifen, wie etwa Warnmeldungen senden oder die Stromversorgung ausschalten, um Verluste zu minimieren.

Vorgestellte Kunden

Jpeg_FLYING-Y_YANMAR_vertical3

Yanmar nutzt AWS Greengrass ML Inference als Teil ihrer Lösung für die IoT-Präzisionslandwirtschaft, mit der die Intelligenz von Gewächshausabläufen durch automatisches Erfassen und Erkennen der wichtigsten Wachstumsstadien von Gemüsepflanzen verbessert wird.

DFDS_Logo_Positiv_2016_RGB

Durch AWS Greengrass ML Inference-fähige IoT-Geräte ist es DFDS möglich, den Schiffsantrieb vorherzusehen und zu optimieren und somit den Kraftstoffverbrauch für die gesamte Flotte zu reduzieren.

Weitere Informationen zu AWS Greengrass-Funktionen

Besuchen Sie die Details-Seite
Sind Sie startbereit?
Registrieren
Haben Sie Fragen?
Kontakt