Amazon EC2 G5 インスタンス

G5 インスタンスは、G4dn インスタンスと比較して最大 3 倍のグラフィックスパフォーマンスと最大 40% 優れた料金パフォーマンスを実現します。他の GPU ベースの EC2 インスタンスよりも多くのレイトレーシングコアを備え、GPU あたり 24 GB のメモリ機能があり、NVIDIA RTX テクノロジーをサポートしています。これは、リアルなシーンの高速レンダリング、強力な仮想ワークステーションの実行、グラフィックスの負荷が高いアプリケーションをより忠実にサポートするのに理想的です。

G5 インスタンスは、G4dn インスタンスと比較して、機械学習推論において最大 3 倍のパフォーマンスと最大 40％ 優れた料金パフォーマンスを実現します。TensorRT、CUDA、cuDNN などの NVIDIA ライブラリを使用して ML アプリケーションを実行したいお客様にとって、高パフォーマンスでコスト効率の高いソリューションです。

G5 インスタンスは Amazon EC2 P3 インスタンスと比較してトレーニングコストを最大 15% 削減することができます。G4dn インスタンスと比較して、ML トレーニングで最大 3.3 倍のパフォーマンスを発揮します。これで、自然言語処理、コンピュータビジョン、レコメンダーエンジンのユースケースにおいて、中程度の複雑さで単一ノードの機械学習モデルをトレーニングするためのコスト効率の高いソリューションとなります。

G5 インスタンスは、専用ハードウェアと軽量ハイパーバイザーを組み合わせた AWS Nitro System で構築されます。このシステムは、ホストハードウェアのコンピューティングリソースおよびメモリリソースを実質的にすべてお客様のインスタンスに提供し、全体的なパフォーマンスおよびセキュリティを改善します。G5 インスタンスにより、Nitro システムがパススルーモードで GPU をプロビジョニングし、ベアメタルに匹敵するパフォーマンスを提供します。

G5 インスタンスは、クラウドで初めてグラフィックス集約型や機械学習のアプリケーションに高パフォーマンスを提供する NVIDIA A10G Tensor Core GPU を特徴としています。各インスタンスには、80 個のレイトレーシングコアを備えた A10G Tensor Core GPU が最大 8 個、GPU あたり 24 GB のメモリが搭載されています。また、320 個の第 3 世代 NVIDIA Tensor コアを提供し、最大 250 TOPS を実現するので、ML ワークロードでは高いパフォーマンスを発揮します。

G5 インスタンスは、NVIDIA RTX Enterprise およびゲームドライバーを追加コストなしでお客様に提供します。NVIDIA RTX Enterprise ドライバーを使用して、グラフィックスを大量に使用する各種ワークロードに高品質の仮想ワークステーションを提供できます。NVIDIA ゲームドライバーは、ゲーム開発のための比類のないグラフィックスとコンピューティングのサポートを提供します。G5 インスタンスは、CUDA、cuDNN、NVENC、TensorRT、cuBLAS、OpenCL、DirectX 11/12、Vulkan 1.1、OpenGL 4.5 ライブラリもサポートしています。

G5 インスタンスには、機械学習の推論やグラフィックス集約型アプリケーションの低レイテンシーニーズをサポートできる、最大 100 Gbps のネットワークスループットがあります。GPU あたり 24GB のメモリと、最大 7.6 TB のローカル NVMe SSD ストレージのサポートにより、高パフォーマンスな機械学習のトレーニングや推論用の大規模なモデルやデータセットのローカルストレージを可能にします。また、G5 インスタンスは大容量の動画ファイルをローカルに保存できるため、グラフィックスのパフォーマンスを向上させ、より大きく複雑な動画ファイルをレンダリングすることができます。

G5 インスタンスは AWS Nitro System 上で構築されています。これは構築ブロックを豊富に取り揃えており、従来の仮想化機能の多くを専用のハードウェアとソフトウェアにオフロードして、仮想化のオーバーヘッドを削減しながら、高パフォーマンス、高可用性、および強力なセキュリティを実現します。