Amazon SageMaker HyperPod prend désormais en charge la topologie au niveau de la partition pour les clusters orchestrés Slurm
Amazon SageMaker HyperPod prend désormais en charge la configuration de la topologie du réseau au niveau de la partition pour les clusters orchestrés Slurm. Un seul cluster peut désormais exécuter une topologie arborescente dans une partition et une topologie par blocs dans une autre, chaque partition utilisant la topologie la mieux adaptée à ses types d’instance. Cela améliore les performances de formation distribuée en alignant le placement sur les caractéristiques d’interconnexion de chaque type d’instance, de sorte que la communication entre GPU est plus rapide, les opérations collectives NCCL plus efficaces et le débit de formation amélioré.
HyperPod détermine la topologie de chaque partition en fonction des types d’instances de ses groupes d’instances de calcul. Les partitions comportant des types d’instance Amazon EC2 UltraServer tels que ml.p6e-gb200.36xlarge utilisent la topologie par blocs, tandis que celles dotées de types d’instances à interconnexion hiérarchique tels que ml.p5.48xlarge, ml.p5e.48xlarge et ml.p5en.48xlarge utilisent une topologie arborescente, tandis que les partitions dont les types d’instance ne fournissent pas d’informations de topologie réseau restent entièrement planifiables. HyperPod conserve cette configuration automatiquement à mesure que le cluster change par le biais d’événements de mise à l’échelle, de réduction et de remplacement de nœuds, de sorte que la topologie de chaque partition reflète toujours l’état actuel du cluster.
Pour commencer, créez ou mettez à jour un cluster SageMaker HyperPod Slurm exécutant Slurm 25.11 ou version ultérieure avec des types d’instances GPU pris en charge. L’ordonnancement topologique est activé par défaut et ne nécessite aucune configuration. Cette fonctionnalité est disponible dans toutes les régions AWS dans lesquelles Amazon SageMaker HyperPod est proposé. Pour en savoir plus, consultez la section Utilisation de l’ordonnancement topologique dans Amazon SageMaker HyperPod.