Amazon EC2 P5 インスタンスが AWS Secret Cloud で利用可能に
NVIDIA H100 Tensor Core GPU を搭載した Amazon Elastic Compute Cloud (Amazon EC2) P5 インスタンスが AWS Secret Cloud で利用可能になりました。Amazon EC2 P5 インスタンスは、前世代の GPU ベースの EC2 インスタンスと比較してソリューション開発までの時間を最大で 4 分の 1 に短縮し、機械学習モデルのトレーニングコストを最大 40% 削減するのに役立ちます。
P5 インスタンスは、最も要求の厳しい生成 AI アプリケーションを強化する、ますます複雑化する大規模言語モデル (LLM) や拡散モデルのトレーニングやデプロイに使用できます。これには、質問への回答、コード生成、動画と画像の生成、音声認識などが含まれます。また、P5 インスタンスを使用して、医薬品開発、耐震解析、天気予報、財務モデリングなどの要求の厳しい HPC アプリケーションを大規模にデプロイすることもできます。
P5 インスタンスは、最新の NVIDIA H100 Tensor コア GPU を搭載しており、前世代の GPU ベースのインスタンスと比較して、2 倍の CPU パフォーマンス、2 倍のシステムメモリ、4 倍のローカルストレージを提供します。第 2 世代の Elastic Fabric Adapter (EFA) テクノロジーを使用した最大 3,200 Gbps のネットワーキングにより、分散型トレーニングや密結合された HPC ワークロード向けの、市場をリードするスケールアウト機能を提供します。
この投稿の内容は情報提供のみを目的としています。AWS Secret Cloud での Amazon EC2 P5 インスタンスの詳細については、お問い合わせください。