Amazon Robotics が、Amazon SageMaker、および AWS Inferentia を使用して大規模な機械学習推論を実現

Amazon Robotics はソフトウェアと機械を使用して、Amazon フルフィルメントセンターでの在庫のフローを自動化しています。同社のシステムには、可動シェルフユニット、ロボット、従業員向けワークステーションの 3 つの主要な物理コンポーネントが含まれています。ロボットが可動シェルフユニットをステーションに設置し、従業員が在庫を収納したり (ストーイング) 取り出したり (ピッキング) します。「当社の既存の stow-and-pick ワークフローでは、ダウンストリーム処理にボトルネックが生じる可能性がありました」と、Amazon Robotics のシニアソフトウェアマネージャーである Eli Gallaudet は言います。「2017 年、これらのワークフローの一部をよりシンプルにする方法を模索することに着手しました」

時間のかかる容器のスキャンを減らすため、Amazon Robotics は、何百万もの収納作業のサンプル動画を基にトレーニングされたディープラーニングベースのコンピュータビジョンシステムである Intent Detection System を構築しました。同社は、在庫品を収納する場所を自動的に指定できるように、システムをトレーニングしたいと考えました。ディープラーニングモデルを Amazon フルフィルメントセンターにデプロイするには、クラウドコンピューティングが必要であることを知った Amazon Robotics は、AWS に着目しました。チームは Docker コンテナにモデルをデプロイし、フルマネージド型のコンテナオーケストレーションサービスである Amazon Elastic Container Service (Amazon ECS) を使用してモデルをホストしました。

チームは収納作業のサンプル動画を十分に収集してから、注釈付きの大規模な動画データセットにモデルアーキテクチャを適用する実験を行いました。何度かの繰り返しの末に、チームはデプロイされたモデルにプロセスを自動化させることができるようになりました。

Amazon Robotics は AWS の豊富なコンピューティングリソースを利用できましたが、ホスティング自体は引き続き自社で処理する必要がありました。AWS が AWS re:Invent 2017 で Amazon SageMaker のリリースを発表すると、Amazon Robotics はすぐに当サービスを採用し、高価なホスティングソリューションを独自に構築する必要がなくなりました。Amazon Robotics は、Amazon SageMaker で大規模なデプロイを実施した初の企業で、2021 年 1 月時点においても未だ最も大規模なデプロイの 1 つです。

当初、チームは主に Amazon SageMaker を使用してモデルをホストしていました。Amazon Robotics は必要に応じてサービスの使用方法を調整しました。最初にハイブリッドアーキテクチャを使用し、一部のアルゴリズムをオンプレミスで実行し、その他のアルゴリズムをクラウドで実行しました。「当社は、Intent Detection System の提供を実現するために主要な機能セットを構築しました」と、Amazon Robotics のシニアソフトウェアマネージャーである Tim Stallman は言います。「その後、Amazon SageMaker の機能がオンラインで稼働するようになると、それらを少しずつ採用していきました」 例えば、チームは Amazon SageMaker Experiments を採用し、これにより、チームは機械学習の実験とモデルバージョンを整理、追跡、比較、評価できるようになりました。

また Amazon Robotics は、Amazon SageMaker オートスケーリングも使用しました。「Amazon SageMaker は、推論に使用するホストを管理するだけではありません」と Gallaudet は言います。「ワークロードをサポートするためのホストの追加や削除も、必要に応じて自動的に実行してくれるのです」 500 を超える GPU のフリートを独自に調達したり管理したりする必要がなくなったことで、同社は推論コストを 50% 近く削減できました。

Amazon Robotics は多くの成功を収めています。同社は、Amazon SageMaker を使用して管理に費やす時間を短縮し、サイエンティストとソフトウェア開発エンジニアの比率のバランスを取りました。また、Amazon SageMaker により、Amazon フルフィルメントネットワーク全体のロールアウト中に、システムを水平方向にスケーリングできるようになりました。チームは、Amazon SageMaker がピーク時の推論リクエストに対応できることを確信しています。

このソリューションは、Amazon Elastic Compute Cloud (Amazon EC2) によってサポートされています。Amazon EC2 は、セキュアでサイズ変更可能なコンピューティング性能をクラウドで提供し、ユーザーは最新のホストタイプが利用可能になったときにホストタイプの移行を迅速に行うことができます。Amazon Robotics チームは、Amazon EC2 P2 インスタンスから Amazon EC2 G4 インスタンスに移行することで、推論コストを 20% 削減することができました。現在、AWS Inferentia を活用することで、Amazon Robotics チームは G4 インスタンスで推論コストをさらに 35% 削減 (P2 インスタンスからは 50% 以上削減) することができ、Inferentia によって 20% 高いスループットを実現しました。より多くのリソースを必要とすることなく、1 日に多くのパッケージをスキャンできるようになりました。「私たちのシステムは 2022 年に 1,000 台以上の SageMaker ホストを使用する予定ですが、AWS Inferentia のおかげで、機械学習モデルの再トレーニングを行わずに、急速に増加するトラフィックに高いスループットで対応できています」と、Amazon Robotics のソフトウェアエンジニアである Pei Wang は言います。

Amazon SageMaker を利用したソリューションは、最初のデプロイ後に急速に成長しました。Amazon Robotics チームは、ウィスコンシン州のフルフィルメントセンターでこのソリューションの小規模な導入を開始し、数十箇所にまで急速に拡大しました。ソリューションの成長とともに、Amazon SageMaker は迅速かつシームレスにスケールアップしていきました。「2022 年には、約 2 倍の規模になると予想しています」と Gallaudet は言います。

チームは、スマートデバイスのフリート全体で機械学習モデルを効率的に管理およびモニタリングする Amazon SageMaker Edge Manager を使用してモデルをエッジで実行するなど、AWS での多くの実験の機会を得ています。また、Amazon Robotics は、パッケージ追跡のさらなる自動化や、パッケージのダメージ評価を自動化するモデルの構築も予定しています。

最先端のテクノロジーを実験することで、Amazon Robotics はフルフィルメントセンターの効率の向上と、Amazon のカスタマーエクスペリエンスの改善を継続的に実現しています。「Intent Detection System で学んだ多くのテクノロジーや経験のおかげで、これらのプロジェクトを迅速に進めることができます」と Stallman は言います。