AWS Greengrass ML 推論

在 AWS Greengrass 裝置上執行機器學習模型

AWS Greengrass 是一種軟體,可讓您以安全的方式在連線裝置執行本機 運算 、簡訊、資料快取和同步功能。使用 AWS Greengrass 時,連線裝置可執行 AWS Lambda 函數、保持裝置資料同步,即使沒有連接到網際網路也可以與其他裝置安全的通訊。現在,您還可以使用 AWS Greengrass 機器學習 (ML) 推論功能輕鬆在連線裝置本機執行 ML 推論。

機器學習使用可以從現有資料中學習的統計演算法,這個過程稱為訓練,對新資料做出各種決策,這個過程稱為推論。在訓練期間找出資料中的模式和關係,以建立一個決策模型。之後,系統可透過這個模型對以前沒有遇到過的資料做出明智的決定。訓練機器學習模型 需要 大量的運算資源,因此當然非常適合在雲端上進行。但是,推論一般需要很少的運算能力,通常會在有新的資料時即時進行。因此,以非常低的延遲獲得推論結果非常重要,以確保 IoT 應用程式能夠快速回應本機事件。

AWS Greengrass ML 推論為您提供兩全其美的解決方案。您可以使用雲端上建立和訓練的 ML 模型,然後在連線裝置本機部署和執行 ML 推論。例如,您可以針對場景偵測分析在 Amazon SageMaker 建立預測模型,然後在啟用 Greengrass 且沒有雲端連線的監控攝影機裝置上本機執行,以便在偵測到訪客時預測並傳送提醒。

優點

在連線裝置輕鬆執行 ML 推論

在連線裝置本機進行推論可降低將裝置資料傳送至雲端進行預測的延遲和成本。Greengrass 的 ML 推論功能可讓您直接在裝置上執行推論,不用將所有資料傳送到雲端來執行 ML 推論。只有在需要額外處理時才會將資料傳送到雲端。

靈活

Greengrass ML 推論針對所有採用 Intel Atom、NVIDIA Jetson TX2 和 Raspberry Pi 技術的裝置,提供預先建置的 TensorFlow、Apache MXNet 和 Chainer 軟體套件。因此,您不必從頭開始為裝置建立和設定 ML 架構。除了支援 TensorFlow、Apache MXNet 和 Chainer 之外,Greengrass ML 還可以與包括 Caffe2 和 Microsoft Cognitive Toolkit 在內的其他熱門架構搭配使用。使用 Greengrass ML 推論,您還可以靈活地在 Amazon SageMaker 中建立和訓練 ML 模型,或者使用存放在 Amazon S3 預先訓練好的自有模型。

按幾下滑鼠即可將模型部署到連線裝置

AWS Greengrass ML 推論可以輕鬆將機器學習模型從雲端部署到您的裝置上。只需在 Greengrass 主控台中按幾下,即可在 GG 主控台找到經過訓練的模型、選擇所需的 ML 模型,然後將其部署到目標裝置。您的模型將會部署到所選的連線裝置,並在該處執行。

使用 GPU 加速推論效能

AWS Greengrass ML 推論會將加速器裝置當成 Greengrass 主控台的 Greengrass 本機資源,這樣您便能在裝置上存取硬體加速器,例如 GPU。

運作方式

AWS Greengrass ML 推論 – 運作方式

使用案例

影片處理

AWS Greengrass ML 推論可以部署在連線裝置上,例如安全監控攝影機、交通攝影機、穿戴式攝影機和醫學造影設備,幫助它們在本機進行預測。使用 AWS Greengrass ML 推論,您可以在裝置上直接部署和執行臉部辨識、物件偵測和影像密度等 ML 模型。例如,交通攝影機可以統計通過路口的自行車、車輛和行人數量,並偵測何時需要調整交通信號,以優化交通流量並保護人們的安全。

零售和觀光旅遊

零售商、郵輪公司和遊樂園正在投資 IoT 應用程式,以提供更好的客戶服務。例如,您可以在遊樂園執行物件偵測模型以記錄訪客數量。攝影機可以找出訪客,並在本機持續計算人數,無須將大量的影片資料傳送到雲端,這通常會因遊樂園的網際網路頻寬限制而帶來很大的挑戰。這個解決方案可以預測熱門主題樂園遊樂設施的等待時間,協助改善客戶體驗。

安全性

監控攝影機製造商正在尋找新的方法,讓裝置更加智慧並實現威脅偵測功能的自動化。AWS Greengrass ML 推論可協助改進監控攝影機的這項功能。啟用 Greengrass 的攝影機可以持續掃描園區,以找出場景是否改變 (例如訪客) 並傳送提醒。這些攝影機能夠在本機快速執行場景偵測分析,並僅在需要時才將資料傳送至雲端,例如進一步分析以識別訪客是否為家庭成員。

精準農業

農業正在經歷兩次大崩潰。首先,世界人口持續增長導致糧食的需求超過產量。其次,氣候變化導致不可預測的天氣條件,影響農作物產量。AWS Greengrass ML 推論可協助農業轉型並為客戶創造新價值。將採用 Greengrass 技術的攝影機安裝在溫室和農場,可以處理植物、農作物的影像和安裝在土壤中的感應器資料,不僅可以偵測溫度、濕度和養份高低等環境異常,還可以觸發提醒。

預測性工業維護

製造商面臨的價格壓力不斷提升,他們正在尋找更新的方法來提高廠房的營運效率。無法即時偵測製造生產線上的問題,可能會造成時間和資源的浪費。AWS Greengrass ML 推論可協助您及早發現裝置故障和廠房問題。採用 Greengrass 技術的工業閘道可持續監控感應器資料 (例如振動、噪音等級)、預測異常情況並採取相關措施,例如傳送提醒或關閉電源,以最大限度地減少損失。

特色客戶案例

Jpeg_FLYING-Y_YANMAR_vertical3

Yanmar 在 IoT 精準農業解決方案採用 AWS Greengrass ML 推論,透過自動偵測和辨識蔬菜主要生長階段來增加溫室營運的情報。

DFDS_Logo_Positiv_2016_RGB

AWS Greengrass ML 推論支援 IoT 裝置,讓 DFDS 能夠預測和優化船舶推進,最終降低整個船隊的燃料消耗。

進一步了解 AWS Greengrass 功能

瀏覽詳細資訊頁面
準備好開始使用了嗎?
註冊
還有其他問題嗎?
聯絡我們