投稿日: Aug 14, 2020
Amazon Elastic Container Service (ECS) は本日、新しい Amazon ECS Optimized Inferentia Amazon マシーンイメージ (AMI) の提供を開始しました。これは、ECS にある Amazon EC2 Inf1 インスタンス向けの新しい Amazon Linux 2 ベースの AMI です。この AMI は、必要な AWS Neuron パッケージのすべてが事前に組み込まれている ECS Optimized Inferentia AMI を使用して、ECS で Inferentia ベースのコンテナを実行することを容易にしてくれます。
Amazon EC2 Inf1 インスタンスは、クラウドでの高パフォーマンスかつ最小コストの機械学習推論を実現します。Inf1 インスタンスは、AWS が設計開発した高機能の機械学習推論チップである AWS Inferentia チップを最大 16 個搭載しています。Inf1 インスタンスを使用すると、お客様は画像認識、音声認識、自然言語処理、パーソナライゼーション、および不正行為検出などの大規模な機械学習推論アプリケーションを実行できます。要件を満たすように機械学習モデルをトレーニングしたら、AWS Neuron を使用してモデルをデプロイできます。AWS Neuron は、 Inferentia チップの機械学習推論パフォーマンスを最適化するコンパイラー、ランタイム、プロファイリングツールで構成された専門的なソフトウェア開発キット (SDK) で、TensorFlow、PyTorch、または MXNet などの人気の機械学習フレームワークをサポートします。
お客様は AWS CLI と ECS コンソールを使用して、新しい ECS Optimized Inferentia AMI で Inf1 インスタンスを起動して、それらを ECS クラスターに追加することができます。ECS Optimized Inferentia AMI のバージョン 20200623 は、ECS コンテナエージェントのバージョン 1.41.0 と docker バージョン 1903.6-ce で構成されています。
Amazon ECS Optimized Inferentia AMI は、米国東部 (バージニア北部) と米国西部 (オレゴン) リージョンで利用可能です。詳細については、AWS ドキュメントとニュースブログをお読みください。