Amazon P6e-GB200 UltraServers が EC2 で最高の GPU パフォーマンスを提供開始
本日、Amazon は、NVIDIA GB200 NVL72 によって高速化された Amazon Elastic Compute Cloud (Amazon EC2) P6e-GB200 UltraServers の一般提供を発表しました。Amazon EC2 P6e-GB200 UltraServers は、EC2 内で提供される GPU を活用した AI トレーニングや推論処理のパフォーマンスにおいて、他のどの EC2 インスタンスよりも優れたパフォーマンスを提供します。また、推論モデルやエージェンティック AI などの次世代機能を備え、パラメータ数が 1 兆を超える基盤モデル (FM) のトレーニングと推論を高速化できるように設計されています。
P6e-GB200 UltraServers を使用すると、1 つの NVLink ドメイン内で最大 72 基の Blackwell GPU にアクセスして、360 ペタフロップスの FP8 コンピューティング (スパース性を利用しない)、合計13.4 TB の高帯域幅メモリ (HBM3e)、および最大 28.8 Tbps の Elastic Fabric Adapter (eFav4) ネットワークを活用できます。 P6e-GB200 UltraServers は、AWS Nitro System を搭載しているため、EC2 UltraClusters 内の AI ワークロードを数万基の GPU にまで信頼性の高い方法で安全にスケールできます。
P6e-GB200 UltraServers は、米国東部 (バージニア北部) リージョンから延長されたダラスの Local Zone (「us-east-1-dfw-2a」) の Amazon EC2 Capacity Blocks for ML で利用できるようになりました。P6e-GB200 UltraServers には、u-p6e-gb200x72 (NVLink 内に 72 基の GPU) と u-p6e-gb200x36 (NVLink 内に 36 基の GPU) の 2 つのサイズがあります。
詳細については、Amazon EC2 P6e-GB200 UltraServers and P6-B200 instances を参照してください。