機械学習アプリケーションの高速化を必要としているデータサイエンティストや研究者、開発者たちにとって、Amazon EC2 P3 インスタンスはクラウド内で最も高速な機械学習トレーニング用インスタンスです。Amazon EC2 P3 インスタンスでは、最新世代の NVIDIA V100 Tensor Core GPU を最大 8 個搭載し、混合精度で最大 1 PFLOPS のパフォーマンスを実現可能で、機械学習ワークロードを大幅に加速させます。モデルトレーニングの高速化によって、データサイエンティストや機械学習エンジニアは、より速く反復処理を行い、より多くのモデルをトレーニングし、精度を向上させることができます。

クラウド内で最も強力な GPU インスタンスと柔軟性の高い料金プランを組み合わせることで、コスト効率が非常に優れた機械学習トレーニング向けソリューションが実現します。通常の Amazon EC2 インスタンスと同様、P3 インスタンスは、オンデマンドインスタンス、リザーブドインスタンス、スポットインスタンスとしてご利用いただけます。スポットインスタンスでは未使用の EC2 インスタンスキャパシティーを利用できるため、オンデマンド料金から最大 70% の割引を適用して Amazon EC2 のコストを大幅に削減できます。

オンプレミスのシステムとは異なり、Amazon EC2 P3 インスタンスでハイパフォーマンスコンピューティングを実行すると、インフラストラクチャをスケールアウトできる容量が事実上無制限になります。またその柔軟性により、ワークロードの需要に応じて簡単にリソースを変更できます。アプリケーションの必要に応じてリソースを設定し、HPC クラスターを数分以内に起動できます。お支払いいただくのは利用した分のみです。

Amazon EC2 P3 インスタンスはシームレスに Amazon SageMaker と連携し、強力で使いやすい、完全な機械学習プラットフォームを提供します。Amazon SageMaker は、機械学習モデルを迅速かつ簡単に構築、トレーニング、デプロイできるフルマネージド型の機械学習プラットフォームです。さらに、Amazon EC2 P3 インスタンスは一般的な深層学習フレームワークが事前インストールされた AWS 深層学習 AMI (Amazon Machine Image) と統合できます。これにより、機械学習のトレーニングや推測を迅速かつ簡単に開始できます。

Amazon EC2 P3 インスタンスは、TensorFlow、PyTorch、Apache MXNet、Caffe、Caffe2、Microsoft Cognitive Toolkit (CNTK)、Chainer、Theano、Keras、Gluon、Torch といった、主要な機械学習フレームワークをすべてサポートしています。アプリケーションにとって最適なフレームワークを柔軟に選択できます。

最大 100 Gbps のネットワークスループットを実現する Amazon EC2 P3 インスタンスを複数使用することで、迅速に機械学習モデルをトレーニングできます。高速なネットワークスループットにより、開発者はデータ転送のボトルネックを気にせずに、複数の P3 インスタンスにわたってモデルトレーニングジョブを効率よくスケールアウトできます。一般的な画像分類モデルである ResNet-50 を 16 個の P3 インスタンスを使ってわずか 18 分ほどトレーニングすれば、精度を業界標準にまで引き上げることができます。オンプレミスで GPU クラスターを構築する場合、大規模な CapEx 投資を必要としたため、以前は大半の機械学習のお客様がこのレベルのパフォーマンスを達成できませんでした。P3 インスタンスはオンデマンド使用モデルで利用できるため、今やすべての開発者と機械学習エンジニアがこのレベルのパフォーマンスを達成できます。

100 Gbps のネットワークスループットにより、デベロッパーは分散型トレーニングで多数の P3dn.24xlarge インスタンス (16 台、32 台、64 台など) を効率的に使用できるため、モデルのトレーニングにかかる時間を大幅に短縮できます。AWS 向けにカスタマイズされた、AVX-512 命令対応の Intel Skylake プロセッサーを使用した 96 個の vCPU は、2.5 GHz で動作し、データ前処理の最適化をサポートします。さらに、P3dn.24xlarge インスタンスでは、専用ハードウェアと軽量ハイパーバイザーを組み合わせた AWS Nitro システムを使用します。これにより、ホストハードウェアのコンピューティングリソースとメモリリソースがほぼすべて、お客様のインスタンスに提供されます。

最新バージョンの Elastic Network Adapter を使用した拡張ネットワークは、最大 100 Gbps のネットワーク総帯域幅を提供し、複数の P3dn.24xlarge インスタンス間でのデータ共有に加え、Amazon EFS のようなファイル共有システムソリューションや Amazon S3 経由での高スループットデータアクセスにも役立ちます。高スループットデータアクセスは、GPU の利用を最適化してコンピューティングインスタンスから最大限のパフォーマンスを提供するために非常に重要です。

P3dn.24xlarge インスタンスは、32 GB メモリの NVIDIA V100 Tensor Core GPU を搭載します。これにより、より高度で、より大規模な機械学習モデルを柔軟にトレーニングできるほか、画像分類システムやオブジェクト検出システムで使用される 4K 画像などの大容量データを一括処理することが可能となります。

クラウドコンピューティングの数あるメリットの 1 つは、必要に応じたリソースのプロビジョニングやプロビジョニングの解除ができる、伸縮自在な性質です。秒単位で使用料金が請求されるため、お客様の伸縮性のレベルアップ、コストの削減、機械学習の目標達成に向けたリソース配分の最適化が可能になります。

リザーブドインスタンスは、オンデマンドインスタンスに比べて料金が大幅に割引となります (最大 75%)。さらに、特定のアベイラビリティーゾーンにリザーブドインスタンスを割り当てると、キャパシティーが予約されるため、必要な時に安心してインスタンスを作成することができます。

スポットインスタンスでは、インスタンスが実行中である期間中は、その期間に有効なスポット料金を支払い続けます。スポットインスタンス料金は Amazon EC2 で設定され、長期の需要と供給に応じ、スポットインスタンス容量に合わせて緩やかに調整されます。スポットインスタンスは、オンデマンド料金と比べて最大 90% の割引価格でご利用いただけます。