Amazon SageMaker HyperPod 現在支援 Slurm 協調叢集的分區層級拓樸

張貼日期: 2026年7月17日

Amazon SageMaker HyperPod 現在支援 Slurm 協調叢集的分區層級網路拓樸設定。單一叢集現在可在一個分區執行樹狀拓樸,並在另一個分區執行區塊拓樸,每個分區皆使用最適合其執行個體類型的拓樸。這可讓任務放置與各執行個體類型的互連特性保持一致,進而提升分散式培訓效能,使 GPU 對 GPU 通訊更快速、NCCL 集體作業更有效率,並提升培訓輸送量。

HyperPod 會根據其運算執行個體群組的執行個體類型,決定每個分區的拓樸。使用 Amazon EC2 UltraServer 執行個體類型 (例如 ml.p6e-gb200.36xlarge) 的分區會使用區塊拓樸,而使用階層式互連執行個體類型 (例如 ml.p5.48xlarge、ml.p5e.48xlarge 和 ml.p5en.48xlarge) 的分區會使用樹狀拓樸;至於未提供網路拓樸資訊的執行個體類型所在分區,則仍可完全排程。隨著叢集透過擴展、縮減和節點替換事件發生變化,HyperPod 會自動維護此設定,因此每個分區的拓樸一律反映叢集目前狀態。

若要開始使用,請建立或更新執行 Slurm 25.11 或更新版本且使用支援 GPU 執行個體類型的 SageMaker HyperPod Slurm 叢集。系統預設已啟用拓樸感知排程,且不需要設定。此功能適用於支援 Amazon SageMaker HyperPod 的所有 AWS 區域。若要進一步了解,請參閱在 Amazon SageMaker HyperPod 中使用拓樸感知排程