投稿日: Nov 28, 2018
Amazon SageMaker Neo では、モデルを 1 回トレーニングするだけで、そのモデルはどこでも実行可能となり、パフォーマンスも最大 2 倍にまで向上します。インターネットに接続されたエッジデバイス上で実行されるアプリケーションは、機械学習モデルのパフォーマンスに強く影響されます。モデルは処理決定までのレイテンシーを低く抑えることを求められるほか、膨大な数の異なるハードウェアプラットフォームでデプロイされることも多々あります。Amazon SageMaker Neo では、特定のハードウェアプラットフォーム向けにモデルをコンパイルすることにより、モデルのパフォーマンスを自動で最適化し、最大 2 倍のパフォーマンスで実行できるようになります。精度が損なわれることもありません。その結果、トレーニングしたモデルをハードウェアプラットフォームごとにハンドチューニングする必要はなくなり、時間とコストを節約できます。SageMaker Neo では、NVIDIA、Intel、Xilinx、Cadence、Arm が提供するハードウェアプラットフォームをサポートしているほか、Tensorflow、Apache MXNet、PyTorch などの主要なフレームワークもサポートしています。
現時点で Amazon SageMaker Neo が利用可能な AWS リージョンは、バージニア北部、オレゴン、オハイオ、アイルランドとなっています。詳細については、製品ページを参照してください。