SageMaker ノートブックインスタンスが P5en.48XL インスタンスタイプのサポートを開始
SageMaker ノートブックインスタンスで Amazon EC2 P5en.48xl インスタンスが一般提供されることを発表いたします。
Amazon EC2 P5en インスタンスには 8 個の H200 GPU が搭載されており、P5 インスタンスに搭載されている H100 GPU の 1.7 倍の GPU メモリサイズと 1.4 倍の GPU メモリ帯域幅を備えています。P5en インスタンスでは、H200 GPU を高性能のカスタム第 4 世代 インテル Xeon スケーラブルプロセッサと組み合わせて、CPU と GPU 間の Gen5 PCIe を実現しています。これにより、CPU と GPU 間の帯域幅が最大 4 倍になり、AI トレーニングと推論のパフォーマンスが向上します。P5en では、Nitro v5 を使用した第 3 世代の EFA が最大 3200 Gbps を発揮し、前世代の EFA と Nitro を使用する P5 と比較して、レイテンシーが最大 35％ 改善しています。これにより、深層学習、生成 AI、リアルタイムデータ処理、ハイパフォーマンスコンピューティング (HPC) アプリケーションなどの分散トレーニングワークロードで集団通信のパフォーマンス向上に役立ちます。
Amazon EC2 P5en.48XL インスタンスは、米国東部 (バージニア北部、オハイオ)、米国西部 (オレゴン)、およびアジアパシフィック (東京) の AWS リージョンでの SageMaker ノートブックインスタンスでご利用いただけます。
SageMaker Studio および SageMaker ノートブックインスタンスで JupyterLab および CodeEditor のアプリケーションを設定して使用する手順については、デベロッパーガイドを参照してください。