AWS Greengrass ML Inference

AWS IoT Greengrass を使用すれば、クラウドで構築、トレーニング、最適化したモデルを使って、機械学習推論を簡単にデバイスでローカルに実行できます。また、Amazon SageMaker でトレーニングされた機械学習モデルを使用したり、Simple Storage Service (Amazon S3) に保存されている、事前にトレーニングされた自分のモデルを持ち込めたりと、柔軟性も高まります。

機械学習では、既存のデータから学習された統計的なアルゴリズムを用いた「トレーニング」というプロセスを使って、新しいデータについての決定が下されます。このプロセスを「推論」と呼びます。トレーニング中に、データ内のパターンと関係が特定され、モデルが構築されます。このモデルにより、それまでに遭遇したことのないデータについて知的な決定をシステムが下すことが可能になります。モデルの最適化では、すばやく実行できるようモデルのサイズが圧縮されます。機械学習モデルのトレーニングと最適化は大量のコンピュータリソースを必要とするため、クラウド上の実行に適しています。一方、推論は必要な処理能力がはるかに少なくて済むとともに、新しいデータが来るたびにリアルタイムで頻繁に行われます。したがって、IoT アプリケーションがローカルイベントにすばやく応答できるようにするためには、推論結果を非常に低いレイテンシーで取得することが重要になります。

AWS IoT Greengrass は、クラウドとローカルの両方の利点を最大限に活用できます。クラウドで構築、トレーニング、最適化した機械学習モデルを使用して、推論をデバイスでローカルに実行できます。たとえば、シーン検出分析のための予測モデルを SageMaker で構築し、カメラで実行するように最適化し、デプロイして、不審なアクティビティを検出したときにはアラートを送信できます。AWS IoT Greengrass で実行されている推論から集められたデータを SageMaker に送り返すと、データがタグ付けされ、機械学習モデルの継続的な品質向上の支援につながります。

利点

柔軟

AWS IoT Greengrass には、インテル Atom、NVIDIA Jetson TX2、Raspberry Pi を使用しているデバイス向けの、事前構築された Amazon SageMaker Neo Deep Learning Runtime (DLR)、Apache MXNet、TensorFlow、Chainer のパッケージが含まれています。したがって、お使いのデバイス用に機械学習のフレームワークをゼロから構築、設定する必要はありません。さらに、PyTorch と Caffe2 を含むその他の一般に広く利用されている他のフレームワークにも対応しています。AWS IoT Greengrass で Amazon SageMaker Neo を使用している場合は、上記フレームワークで記述されたモデルは、どの Neo ランタイムを含む AWS IoT Greengrass デバイスでも実行できる移植可能なコードに変換されるので、エッジで追加のチューニングを行う必要もありません。

数回クリックするだけで、接続されたデバイスにモデルをデプロイ

AWS IoT Greengrass を使えば、自分の機械学習モデルをクラウドからデバイスに簡単にデプロイできます。AWS IoT Greengrass コンソールを数回クリックするだけで、Amazon SageMaker か Simple Storage Service (Amazon S3) でトレーニングされたモデルを特定し、ターゲットモデルを選択して対象デバイスへデプロイできます。モデルは、ユーザーが選択した接続デバイスにデプロイされます。

推論パフォーマンスを高速化

Amazon SageMaker や Neo 深層学習コンパイラーと統合することで、ランタイムが最適化された機械学習モデルをデプロイできます。その速度は、手作業のチューニングや機械学習のフレームワークを使用した場合と比べ、最大 2 倍に達します。また、AWS IoT Greengrass は、Nvidia Jetson TX2 ボードなど、共通の機械学習フレームワークやターゲットデバイスに、事前構築されたランタイムを供給することで、デバイスの GPU などハードウェアアクセラレーターへのアクセスも可能にします。

推論実行できるデバイスが拡大

Amazon SageMaker と Neo コンパイラーとの統合により、モデルは 10 分の 1 未満のメモリフットプリントで最適化されるため、家庭用防犯カメラやアクチュエータなどリソースが限られたデバイスでも実行可能になります。

接続デバイスで推論実行が簡単に

AWS IoT Greengrass を実行しているデバイスで推論することで、予測のためにクラウドへデバイスデータを送信する際のレイテンシーとコストを削減できます。すべてのデータをクラウドに送信して機械学習の推論をするのではなく、デバイス上で直接推論を実行します。

より高精度のモデルを構築

AWS IoT Greengrass を使用すると、推論および推論結果取得の実行、異常値の検出、クラウドや Amazon SageMaker へのデータ返送が可能になり、データの再分類とタグ付けが行われて、機械学習モデルの精度がさらに向上するように再トレーニングするモデルにしようされます。

仕組み

ユースケース

産業用予測メンテナンス

メーカーでは押し寄せる価格圧力を受けて、新たな方法で工場の運転効率向上を目指す動きがあります。製造部門の組立ラインで問題発見が遅れると、時間と資源が無駄になります。AWS IoT Greengrass は故障した機器の早期発見や、工場内の問題発見を支援します。IoT Greengrass 搭載の産業ゲートウェイはセンサーデータ (振動、ノイズレベルなど) を常に監視して、異常を予測し、アラート送信や、機器を停止してロスを最小に抑えるなどの関連対策を実施できます。

精密農業

農業分野は 2 つの大きな改革のさなかにあります。第一に、地球の人口増加が続くなかで、食糧需要が産出量を上回っています。第二は、気候変動により予測不能な気象条件が農産物生産量に影響を与えています。AWS IoT Greengrass は、農業のありかたの変革や、顧客向けの新たな価値創造を支援します。AWS IoT Greengrass 搭載のカメラを温室や農場に設置すると、植物や農作物の画像、土壌中のセンサーからのデータを処理して、温度、湿度、養分レベルの変化などの環境異常を検出できるうえに、アラートの送信もできます。

セキュリティ

セキュリティカメラのメーカーは、デバイスの性能をさらに高め、脅威検出機能を自動化できるような新たな方法を模索しています。AWS IoT Greengrass は、こうしたセキュリティカメラの能力向上に一役買うことができます。AWS IoT Greengrass では、カメラが敷地内を常にスキャンし、来訪者など場面の変化を探して、アラートを送信します。カメラはシーン検出分析をローカルですばやく実行し、さらに分析が必要な場合のみ、クラウドにデータを送信します。

小売業および接客業

小売業、客船クルーズ、遊園地では IoT アプリケーションに投資して、顧客サービスの向上を目指しています。たとえば、遊園地で物体検出モデルを実行して、来場者数を追跡できます。カメラは来場者の所在位置を特定し、各タイミングにおける来場者数をローカルに保存します。インターネットの帯域幅制限を受けるため問題になりやすい、大量のビデオフィードのクラウド送信を行う必要はありません。このソリューションにより、人気の高いテーマパークでは乗り物の待ち時間予測が可能となり、来場者のエクスペリエンス向上の支援につながります。

動画処理

AWS IoT Greengrass は、監視カメラ、交通カメラ、ボディカメラ、医療用画像機器などが接続されたデバイスにデプロイし、ローカルの予測を支援します。AWS IoT Greengrass を使用すると、顔認識、物体検出、画像密度などの機械学習モデルをデバイスに直接デプロイして実行できます。例えば交通カメラでは、交差点を通過する自転車、自動車、歩行者をカウントし、交通の流れを最適化して人の安全を確保できるように交通信号の表示タイミングを割り出すことができます。