Amazon SageMaker HyperPod ahora admite la topología a nivel de partición para los clústeres orquestados de Slurm
Amazon SageMaker HyperPod ahora admite la configuración de topología de red a nivel de partición para los clústeres orquestados de Slurm. Un solo clúster ahora puede ejecutar la topología de árbol en una partición y la topología de bloques en otra, y cada partición usa la topología que mejor se adapta a sus tipos de instancia. Esto mejora el rendimiento de la capacitación distribuida al mantener la ubicación laboral alineada con las características de interconexión de cada tipo de instancia, de modo que la comunicación entre GPU y GPU es más rápida, las operaciones colectivas de NCCL son más eficientes y el rendimiento de la capacitación mejora.
HyperPod determina la topología de cada partición en función de los tipos de instancia de sus grupos de instancias de procesamiento. Las particiones con tipos de instancia de Amazon EC2 UltraServer, como ml.p6e-gb200.36xlarge, usan topología de bloques, y aquellas con tipos de instancia de interconexión jerárquica, como ml.p5.48xlarge, ml.p5e.48xlarge y ml.p5en.48xlarge, usan topología de árbol, mientras que las particiones con tipos de instancia que no proporcionan información de topología de red siguen siendo totalmente programables. HyperPod mantiene esta configuración automáticamente a medida que el clúster cambia mediante eventos de escalado ascendente, descendente y reemplazo de nodos, de modo que la topología de cada partición siempre refleja el estado actual del clúster.
Para empezar, cree o actualice un clúster de SageMaker HyperPod Slurm que ejecute Slurm 25.11 o una versión posterior con los tipos de instancias de GPU compatibles. La programación con reconocimiento de topología está habilitada de forma predeterminada y no requiere configuración. Esta característica está disponible en todas las regiones de AWS en las que Amazon SageMaker HyperPod está disponible. Para obtener más información, consulte Uso de la programación con reconocimiento de topología en Amazon SageMaker HyperPod.