Amazon SageMaker HyperPod レシピを発表
Amazon SageMaker HyperPod レシピを使用すると、最先端のパフォーマンスにより、公開されている基盤モデル (FM) のトレーニングとファインチューニングを数分で開始できます。SageMaker HyperPod には耐障害性とパフォーマンスの最適化機能が組み込まれているため、お客様は生成 AI モデル開発を数百または数千の AI アクセラレーターにスケールし、モデルのトレーニング時間を最大 40% 短縮できます。ただし、FM サイズが数千億のパラメータにまで拡大していくと、これらのモデルをカスタマイズするプロセスには、数週間にわたる広範な実験とデバッグが必要になる可能性があります。さらに、トレーニングを最適化してコストパフォーマンスを向上させることは、多くの場合、お客様にとって現実的ではありません。機械学習に関する深い専門知識が必要となり、市場投入までの時間がさらに遅れる可能性があるためです。
SageMaker HyperPod レシピを使用すると、あらゆるスキルセットのお客様が最先端のパフォーマンスを活用できます。同時に、Llama 3.1 405B、Mixtral 8x22B、Mistral 7B などの公開されている一般的な FM のトレーニングとファインチューニングをすぐに開始できます。SageMaker HyperPod レシピには AWS でテストされたトレーニングスタックが含まれており、さまざまなモデル構成で何週間もかけて実験する面倒な作業が不要になります。 また、レシピを 1 行変更することで GPU ベースのインスタンスと AWS Trainium ベースのインスタンスをすばやく切り替えることができ、自動モデルチェックポイントを有効にしてトレーニングの耐障害性を向上させることもできます。最終的には、任意の SageMaker AI トレーニングサービスを使用して本番環境でワークロードを実行できます。
SageMaker HyperPod レシピは、SageMaker HyperPod と SageMaker のトレーニングジョブがサポートされているすべての AWS リージョンでご利用いただけます。詳細を確認して使用を開始するには、SageMaker HyperPod のページとブログをご覧ください。