AWS Greengrass ML Inference

AWS Greengrass を使用してローカルデバイスで機械学習モデルを実行

AWS Greengrass は、インターネットに接続されたデバイスでローカルの コンピューティング 、メッセージング、データキャッシュ、同期を安全な方法で実行できるようにするソフトウェアです。AWS Greengrass では、接続されたデバイスで AWS Lambda 関数を実行し、デバイスデータを常に同期させ、他のデバイスと安全に通信できます。これはインターネットに接続していないときでも可能です。AWS Greengrass Machine Learning (ML) Inference に、接続されたローカルデバイスで ML 推論を容易に実行できる機能が追加されました。

Machine learning はトレーニングと呼ばれる、既存のデータから学習できる統計的なアルゴリズムを用いたプロセスを用い、推論と呼ばれる、新しいデータについての決定を行います。トレーニング中、データの中のパターンと関係が特定されて、意思決定のためのモデルが構築されます。このモデルにより、システムはこれまでに遭遇したことのないデータについて知的な決定を下すことができます。  ML モデルのトレーニングには大量のコンピューターリソースが必要なため、クラウドに向いているのも当然です。 しかし、推論に要する処理能力は通常はるかに少ないので、新しいデータが来るたびにリアルタイムで行われます。従って、推論結果を非常に低いレイテンシーで得ることは、IoT アプリケーションがローカルなイベントに素早く応答できるために重要です。

AWS Greengrass ML Inference では、クラウドとローカルの両方の利点を最大限に利用できます。クラウドで構築およびトレーニングされた ML モデルを使用して、接続されたデバイスに ML 推論をデプロイしてローカルで実行します。例えば、シーン検出分析に対して Amazon SageMaker で予測的モデルを構築して、クラウドへの接続が無い、Greengrass を搭載したセキュリティカメラデバイスでローカルにこれを実行して、訪問者が検出されたときに予測とアラートの送信を行えます。

利点

接続されたデバイスで ML 推論を容易に実行

接続されたデバイス上で推論を行うことで、予測のためにデバイスデータをクラウドに送信することで発生するレイテンシーとコストを削減できます。Greengrass の ML 推論機能では、すべてのデータをクラウドに送信して ML 推論を行わずに、デバイス上で直接推論を実行できます。データは、追加の処理を要するときにだけクラウドに送られます。

柔軟性

Greengrass ML Inference は事前にビルドされた TensorFlow、Apache MXNet、Chainer パッケージが含まれ、Intel Atom、NVIDIA Jetson TX2、Raspberry Pi 搭載の全デバイスに対応します。そのため、お使いのデバイスでゼロから ML フレームワークを構築、設定する必要はありません。TensorFlow、Apache MXNet、Chainer のサポートに加えて、Greengrass ML は Caffe2 や Microsoft Cognitive Toolkit など他のよく使われるフレームワークと組み合わせて動作させることができます。Greengrass ML Inference では、Amazon SageMaker で自分自身の ML モデルを構築し、トレーニングするか、Amazon S3 に保存された、事前にトレーニングされた自分のモデルを持ち込めると言った柔軟性もあります。

接続されたデバイスに数クリックでモデルをデプロイ

AWS Greengrass ML Inference では、クラウドからの machine learning モデルをお使いのデバイスに容易にデプロイできます。Greengrass コンソールで数クリックするだけで、GG コンソールでトレーニングされたモデルを見つけ、希望の ML モデルを選択し、これをターゲットデバイスにデプロイできます。モデルは選択された、接続されたデバイスでデプロイ、実行されます。

GPU で推論パフォーマンスを高速化

AWS Greengrass ML Inference では、各デバイス上の GPU などのハードウェアアクセラレーターを、Greengrass コンソールで Greengrass のローカルリソースとして指定することで、ローカルのアクセラレーターデバイスを活用できます。

仕組み

AWS Greengrass ML Inference – 仕組み

ユースケース

動画処理

AWS Greengrass ML Inference は、監視カメラ、交通カメラ、ボディカメラ、医療用画像機器などが接続されたデバイスにデプロイし、ローカルでの予測を行うのに役立ちます。AWS Greengrass ML Inference を使用すると、顔認識、物体検出、画像密度などの ML モデルをデバイスに直接デプロイして実行できます。例えば交通カメラでは、交差点を通過する自転車、自動車、歩行者をカウントし、交通の流れを最適化し安全を確保するような信号機のタイミングを割り出すことができます。

小売業および接客業

小売業、クルーズ、遊園地では、顧客サービスの向上を目指して IoT アプリケーションに投資しています。例えば、遊園地でオブジェクト検出モデルを実行して、来場者の数を追跡できます。カメラは来場者を見つけて各時点での頭数をローカルに保持し、遊園地で問題となるインターネットの帯域幅の制限を受ける大量のビデオフィードのクラウド送信を行う必要はありません。このソリューションは人気のあるテーマパークの乗り物での待ち時間を予測でき、来場者のエクスペリエンス向上に役立ちます。

セキュリティ

セキュリティカメラのメーカーはデバイスをよりインテリジェントにし、脅威検出機能を自動化する新たな方法を模索しています。AWS Greengrass ML Inference はセキュリティカメラの能力向上に一役買うことができます。Greengrass では、カメラが敷地内を常にスキャンして、来訪者などのシーン中の変化を探し、アラートを送り出すようにできます。カメラはシーン検出分析をローカルで素早く行え、例えば来訪者が家族かどうかなど、さらに分析が必要なときだけクラウドにデータを送信します。

精密農業

農業分野は 2 つの大きな改革のさなかにあります。ひとつめは世界人口の継続的増加で、このため食糧需要が産出量を上回るようになっています。二つ目は気候変動で、予測できない気候条件をもたらして、農産量に影響を与えています。AWS Greengrass ML Inference は農業のありかたを変革し、新たな価値を顧客に届けることができます。Greengrass 搭載のカメラを温室や農場に設置すると、植物や農作物の画像、土壌中のセンサーからのデータを処理して、温度、湿度、養分レベルの変化などの環境異常を検出できるのみならず、アラートを発することができます。

予測的産業メンテナンス

メーカーに価格圧力が押し寄せるにつれて、メーカーでは新たな方法で工場での運転効率向上を目指そうとしています。製造過程での組み立て工程で問題発見が遅れると、時間と資源が無駄になります。AWS Greengrass ML Inference は故障した機器の早期発見や、工場での問題発見に役立ちます。Greengrass 搭載の産業ゲートウェイはセンサーデータ (振動、ノイズレベルなど) を常に監視して、異常を予測し、アラートを送信する、電源を切ってロスを最小に抑えるなどの関連措置を取ることができます。

主なお客様

Jpeg_FLYING-Y_YANMAR_vertical3

ヤンマーでは AWS Greengrass ML Inference をその IoT 精密農業ソリューションに活用し、温室内の野菜の主要成長段階を自動的に検出、認識することで温室運営のインテリジェンスを高めています。

DFDS_Logo_Positiv_2016_RGB

AWS Greengrass ML Inference 搭載の IoT デバイスは、DFDS が船舶の推進を予測、最適化することを可能にし、究極的に所有船舶全体の燃料消費量を削減しました。

AWS Greengrass の特徴の詳細

詳細ページにアクセスする
始める準備はできましたか?
サインアップ
ご不明な点がおありですか?
お問い合わせ