Amazon SageMaker Edge

エッジデバイスで動作する機械学習 (ML) モデルを簡単に操作可能

Amazon SageMaker Edge は、モデルを最適化、保護、エッジにデプロイし、スマートカメラ、ロボット、その他のスマートエレクトロニクスなどのデバイスのフリートでこれらのモデルをモニタリングすることで、エッジデバイスでの機械学習を可能にし、継続的な運用コストを削減します 。TensorFlow、MXNet、PyTorch、XGBoost、TensorFlow Lite でモデルをトレーニングしているお客様は、SageMaker Edge を使用してパフォーマンスを向上させ、エッジデバイスにデプロイし、ライフサイクルを通してそれらの健全性をモニタリングすることができます。

SageMaker Edge Compiler は、トレーニングされたモデルを最適化して、エッジデバイスで実行できるようにします。SageMaker Edge には、アプリケーションやデバイスのファームウェアに依存せず、フリートにモデルをデプロイするのに役立つ無線通信経由 (OTA) デプロイメカニズムが含まれています。SageMaker Edge Agent は、同一デバイスで複数のモデルを実行することができます。Agent は、インターバルなどの制御するロジックに基づいて予測データを収集し、クラウドにアップロードすることで、時間の経過とともにモデルを定期的に再トレーニングすることができます。SageMaker Edge は、暗号でモデルに署名するため、モデルがクラウドからエッジデバイスに移動するときに改ざんされていないことを確認できます。

時間の経過とともに精度を高めるモデルの構築と改良

SageMaker Edge Agent は、設定したトリガーに基づいてデータやメタデータを取得し、既存のモデルを実際のデータで再トレーニングしたり、新しいモデルを構築することができます。また、これらのデータを利用して、モデルドリフト分析などの独自の分析を行うことができます。

SageMaker Edge - エッジデバイスからデータを取得する - Amazon Web Services (6:24)

選べるデプロイ方法

私たちは、3 つのデプロイの方法をご用意しています。GGv2 (およそサイズ 100 MB) は、完全に統合された AWS IoT のデプロイメカニズムです。デバイスの容量が限られているお客様には、SageMaker Edge 内に小型のデプロイメカニズムを内蔵しています。好みのデプロイメカニズムをお持ちのお客様には、私たちのユーザーフローにプラグインできるサードパーティーのメカニズムをサポートしています。

SageMaker Edge - クイックデバイスセットアップデモ - Amazon Web Services (8:21)

ビジュアルダッシュボードでデバイスのフリートをモニタリング

Amazon SageMaker Edge Manager はダッシュボードを提供するため、フリート全体の各デバイスで実行されているモデルのパフォーマンスを把握できます。ダッシュボードは、フリート全体の状態を視覚的に理解し、コンソールのダッシュボードから問題のあるモデルを特定する際に役に立ちます。問題が特定されたら、モデルのデータを収集してデータにラベルを付け直し、モデルを再トレーニングして、モデルを再度デプロイすることができます。

さまざまなデバイス向けに ML モデルを最適化する

Amazon SageMaker Edge Compiler は、多種多様なエッジデバイスにデプロイするために機械学習モデルを自動的に最適化します。SageMaker Edge Compiler は、トレーニングされたモデルを実行可能フォーマットにコンパイルします。実行可能フォーマットは、パフォーマンス最適化を適用し、ターゲットハードウェアでモデルを最大 25 倍高速に実行できるようにします。

SageMaker Edge - コンパイルデモ - Amazon Web Services (5:49)

セキュリティとコンプライアンスのサポート

Amazon SageMaker Edge は、お客様が提供するキーまたは AWS キーで署名して機械学習モデルをパッケージ化します。Edge Agent は署名を認証し、さらにモデルが改ざんされていないことを確認してからモデルをランタイムにロードします。
 
SageMaker Edge - モデルデモのパッケージ化 - Amazon Web Services (4:24)

お客様

Levnovo 顧客ロゴ

世界一の PC メーカーである Lenovo™ は、最近、Amazon SageMaker を最新の予知保全製品に組み込みました。 

「新しい SageMaker Edge Manager は、デプロイ後にモデルを最適化、監視、継続的に改善するために必要な手作業を排除する場合に役に立ちます。これにより、他の同等の機械学習プラットフォームよりモデルの実行速度が速くなり、メモリの使用量が減少することが期待されます。SageMaker Edge Manager を使用すれば、エッジで自動的にデータをサンプリングしてクラウドへと安全に送信し、デプロイ後も継続的にデバイスごとに各モデルの品質を監視できます。これにより、世界中のエッジデバイスでモデルをリモートで監視、改善、更新できると同時に、私たちとお客様の時間とコストを節約できます」

Igor Bergman、Lenovo バイスプレジデント、PC およびスマートデバイスのクラウドおよびソフトウェア。

Basler 顧客ロゴ

Basler AG は、産業、医療、輸送、その他のさまざまな市場に向けて高品質デジタルカメラとアクセサリーを提供する大手メーカーです。

「Basler AG は、製造、医療、小売業のアプリケーションなど、さまざまな業界でインテリジェントなコンピュータビジョンにおけるソリューションを提供しています。Amazon SageMaker Edge Manager によって実現された新機能でソフトウェアの提供を拡張できることを嬉しく思います。機械学習ソリューションのパフォーマンスと信頼性を確保するには、エッジデバイスの機械学習モデルを継続的に監視、維持、改善できる、スケーラブルなエッジツークラウド MLOps ツールが必要です。SageMaker Edge Manager を使用すれば、エッジで自動的にデータをサンプリングしてクラウドへと安全に送信し、デプロイ後も継続的にデバイスごとに各モデルの品質を監視できます。これにより、世界中のエッジデバイスでモデルをリモートで監視、改善、更新できると同時に、私たちとお客様の時間とコストを節約できます」

Basler、ソフトウェアソリューション責任者、Mark Hebbel 氏。

Amazon SageMaker の使用を開始する

エッジデバイスで動作する機械学習 (ML) モデルを操作可能