Amazon SageMaker HyperPod が Slurm でオーケストレーションされたクラスターでのパーティションレベルのトポロジーをサポート開始
Amazon SageMaker HyperPod は、Slurm でオーケストレーションされたクラスターにおけるパーティションレベルのネットワークトポロジー設定をサポートするようになりました。今後、単一のクラスターで、あるパーティションではツリートポロジーを実行し、別のパーティションではブロックトポロジーを実行できるようになり、各パーティションがそのインスタンスタイプに最適なトポロジーを使用できます。これにより、ジョブ配置が各インスタンスタイプの相互接続特性に合わせて維持され、分散型トレーニングのパフォーマンスが向上するため、GPU 間の通信が高速化し、NCCL の一括操作がより効率的になり、トレーニングスループットが向上します。
HyperPod は、コンピュートインスタンスグループのインスタンスタイプに基づいて各パーティションのトポロジーを決定します。ml.p6e-gb200.36xlarge などの Amazon EC2 UltraServer インスタンスタイプのパーティションはブロックトポロジーを使用し、ml.p5.48xlarge、ml.p5e.48xlarge、ml.p5en.48xlarge などの階層型相互接続インスタンスタイプのパーティションはツリートポロジーを使用します。一方で、ネットワークトポロジー情報を提供しないインスタンスタイプのパーティションは、引き続き完全にスケジュール可能です。HyperPod は、スケールアップ、スケールダウン、ノード交換イベントによってクラスターが変更されても、この設定を自動的に維持するため、各パーティションのトポロジーは常にクラスターの現在の状態を反映します。
使用を開始するには、サポートされている GPU インスタンスタイプを使用して Slurm 25.11 以降を実行する SageMaker HyperPod Slurm クラスターを作成または更新してください。トポロジー認識スケジューリングはデフォルトで有効になっており、設定は不要です。この機能は、Amazon SageMaker HyperPod がサポートされているすべての AWS リージョンで利用できます。詳細については、Using topology-aware scheduling in Amazon SageMaker HyperPod を参照してください。