AWS IoT Greengrass ML 推論

部署機器學習模型,針對在 AWS IoT Greengrass 裝置上進行優化

AWS IoT Greengrass 可讓您輕鬆使用在雲端建立、訓練和優化的模型,並在本地裝置上執行機器學習推論。IoT Greengrass 給予您在 Amazon SageMaker 中使用機器學習模型,或使用儲存於 Amazon S3 中自行預先訓練過的模型的靈活性。

機器學習使用可從現有資料中學習的統計演算法,這個過程稱為訓練,以便對新資料做出各種決策,這個過程稱為推論。在訓練期間找出資料中的模式和關係,以建立模型。之後,系統可以透過這個模型對以前沒有遇到過的資料做出明智的決定。優化模型會壓縮模型尺寸,使它能快速執行。訓練及優化 ML 模型需要大量的運算資源,因此非常適合在雲端進行。但是,推論一般需要很少的運算能力,通常會在有新的資料時即時進行。因此,以非常短的延遲時間獲得推論結果非常重要,以確保 IoT 應用程式能夠快速回應本機事件。

IoT Greengrass 為您提供兩全其美的解決方案。您使用在雲端建立、訓練和優化的機器學習模型,然後在本機裝置執行推論。例如,您可以在 SageMaker 中建立一個用於場景偵測分析的預測模型,針對在任何相機上執行進行優化,然後將它部署,以便預測可疑活動,並送出提醒訊號。從 IoT Greengrass 上執行的推論收集的資料可以送回 SageMaker,加上標籤,並用來持續改進機器學習模型的品質。

優勢

靈活

AWS IoT Greengrass 包含預先建置的 TensorFlow、Apache MXNet 和採用 Intel Atom 技術的 Chainer 裝置用套件、NVIDIA Jetson TX2 和 Raspberry Pi,因此您無需從頭開始建立和設定您的裝置的機器學習架構。此外,它也可以和其他的熱門架構 (包括 Caffe2 和 Microsoft Cognitive Toolkit) 搭配使用。如果您搭配 IoT Greengrass 使用 Amazon SageMaker,在這些架構中寫出的模型會被轉換成能夠在任何裝置上執行的可攜式程式碼,使您無需在節點上做額外的調校。

按幾下滑鼠即可將模型部署到連線裝置

AWS IoT Greengrass 可讓您將機器學習模型從雲端輕鬆部署到您的裝置上。只需在 IoT Greengrass 主控台中按幾下,即可在 Amazon SageMaker 或 S3 中找到經過訓練的模型、選擇您想要的模型,然後將其部署到目標裝置。您的模型將會部署到所選的連線裝置。

加速推論效能

透過 Amazon SageMaker 和 Deep Learning Compiler 的整合,您可以部署具有優化執行時間的機器學習模型,執行速度最高可達手動調校或使用機器學習架構的兩倍。AWS IoT Greengrass 也提供常見 ML 架構和目標裝置 (例如 Nvidia Jetson TX2 電路板) 的預先建置執行時間,讓您可以存取硬體加速器 (例如裝置上的 GPU)。

在更多裝置上執行推論

與 Amzon SageMaker 整合時,優化模型所需的記憶體使用量不到十分之一,因此可以在資源受限的裝置 (例如居家安全相機和制動器) 上執行。

在連線裝置上輕鬆執行推論

在連線裝置本機執行推論可降低將裝置資料傳送至雲端進行預測的延遲和成本。您是在裝置上直接執行推論,而不是將所有資料送到雲端執行機器學習推論。

建立更準確的模型

您可以使用 AWS 執行推論和擷取結果、偵測異常值,並將資料送回雲端和 Amazon SageMaker,將它重新分類和標記,以改善機器學習模型。

運作方式

AWS Greengrass ML 推論 – 運作方式

使用案例

影片處理

AWS IoT Greengrass 可以部署在連線裝置上,例如安全監控攝影機、交通攝影機、穿戴式攝影機和醫學造影設備,幫助它們在本機進行預測。使用 AWS IoT Greengrass,您可以在裝置上直接部署和執行臉部辨識、物件偵測和影像密度等機器學習模型。例如,交通攝影機可以統計通過路口的自行車、車輛和行人數量,並偵測何時需要調整交通信號,以優化交通流量並保護人們的安全。

零售和觀光旅遊

零售商、郵輪公司和遊樂園正在投資 IoT 應用程式,以提供更好的客戶服務。例如,您可以在遊樂園執行物件偵測模型以記錄訪客數量。攝影機可以找出訪客,並在本機持續計算人數,無需將大量的影片資料傳送到雲端,這通常會因遊樂園的網際網路頻寬限制而帶來很大的挑戰。這個解決方案可以預測熱門主題樂園遊樂設施的等待時間,協助改善客戶體驗。

安全性

監控攝影機製造商正在尋找新的方法,讓裝置更加智慧並實現威脅偵測功能的自動化。AWS IoT Greengrass 可協助改進監控攝影機的功能。啟用 IoT Greengrass 的攝影機可以持續掃描園區,以找出場景是否改變 (例如訪客) 並傳送提醒。這些攝影機能夠在本機快速執行場景偵測分析,並僅在需要時才將資料傳送至雲端,例如進一步分析以識別訪客是否為家庭成員。

精準農業

農業正在經歷兩次大崩潰。首先,世界人口持續增長導致糧食的需求超過產量。其次,氣候變化導致不可預測的天氣條件,影響農作物產量。AWS IoT Greengrass 可協助農業轉型並為客戶創造新價值。將採用 IoT Greengrass 技術的攝影機安裝在溫室和農場,可以處理植物、農作物的影像和安裝在土壤中的感應器資料,不僅可以偵測溫度、濕度和養份高低等環境異常,還可以觸發提醒。

預測性工業維護

製造商面臨的價格壓力不斷提升,他們正在尋找更新的方法來提高廠房的營運效率。無法即時偵測製造生產線上的問題,可能會造成時間和資源的浪費。AWS IoT Greengrass 可協助您及早發現裝置故障和廠房問題。採用 IoT Greengrass 技術的工業閘道可持續監控感應器資料 (例如振動、噪音等級)、預測異常情況並採取相關措施,例如傳送提醒或關閉電源,以最大限度地減少損失。

特色客戶

Yanmar

Yanmar 在 IoT 精準農業解決方案採用 AWS IoT Greengrass ML 推論,透過自動偵測和辨識蔬菜主要生長階段來增加溫室營運的情報。

DFDS

AWS IoT Greengrass ML 推論支援的 IoT 裝置讓 DFDS 能夠預測和優化船舶推進,最終降低整個船隊的燃料消耗。


特色合作夥伴

Leopard

「人工智慧的盛行,以及數位轉型的步伐,正持續以驚人的速率不斷地增長。AWS IoT Greengrass ML 推論的最新改進顯著地縮短了延遲時間,卻不致減損 ML 推論的準確性,類似這樣的創新加速了新興工業自動化使用案例 ─ 物件識別與分類 ─ 的新型解決方案。AWS 的新型機器學習解決方案與採用 NVIDIA® GPU 技術的 Leopard Imaging 產品 AICam 整合起來,是任何雲端工業和智慧城市解決方案尖端技術的基礎。」

─ Bill Pu,Leopard Imaging 共同創辦人兼總裁


Lenovo

「IoT 和 AI 促成的電腦視覺使用案例,其龐大潛能將使這個行業以指數形式提高生產力和效率。在這智慧轉型的時代,我們的高階工業用 Think IoT 相機採用 AWS IoT Greengrass 技術,搭配最新的機器學習更新,是為了讓企業客戶產生顯著差異而設計的。」

─ Jon Pershke,Intelligent Devices 策略與新興事業部副總裁


Panasonic

「Panasonic 的 Vieureka 很高興能運用 AWS IoT Greengrass 所提供的 AWS 進化的機器學習功能。為了將 Vieureka 相機和服務管理功能提供給 AWS 社群的所有合作夥伴,我希望盡快開發出 AWS IoT Greengrass 的相容版本。我們將在 2019 年春天為開發人員建置環境,同年秋天將推出商業版本。」

─ 宮崎,Vieureka Service, Panasonic 執行長


ADLINK

「配備最新 ML 推論更新,並於 ADLINK 的工業用視覺系統上執行的 AWS IoT Greengrass 的出現,達成了真正的隨插即用型 IoT。現在,每當我們啟動一部執行 Greengrass IoT AWS,且配備最新 ML 推論更新的現成 ADLINK NEON 智慧型相機時,我們可以達成高品質的成果,而且迅速得多。這讓我們可以針對物流、品質檢驗、工業機器人和其他製造業客戶加速進行 IoT 數位實驗的開發。」

─ Elizabeth Campbell,ADLINK Technology 美洲總經理

進一步了解 AWS IoT Greengrass 功能

瀏覽功能頁面
準備好開始使用了嗎?
存取主控台
還有其他問題嗎?
聯絡我們