SageMaker HyperPod ahora admite la programación de tareas de LLM teniendo en cuenta la topología
La gobernanza de tareas de SageMaker HyperPod ahora admite la programación con reconocimiento de topología (TAS), lo que permite a los científicos de datos programar sus tareas de modelos de lenguaje de gran tamaño (LLM) en una topología de red óptima que minimiza la comunicación de la red y mejora la eficiencia del entrenamiento.
Las tareas de entrenamiento y ajuste de LLM, que se distribuyen en varias instancias de computación acelerada, con frecuencia intercambian grandes volúmenes de datos entre ellas. Los diferentes saltos de red entre instancias pueden provocar una mayor latencia de comunicación, lo que repercute en el rendimiento de las tareas de LLM. La gobernanza de tareas de SageMaker HyperPod ahora permite que los científicos de datos utilicen la información de topología de red al programar tareas con preferencias topológicas específicas. Al utilizar la topología de red en HyperPod, la gobernanza de tareas de SageMaker HyperPod programa automáticamente las tareas en ubicaciones óptimas, lo que reduce la comunicación entre instancias y mejora la eficiencia del entrenamiento.
La gobernanza de tareas de SageMaker HyperPod está disponible en todas las regiones de AWS en las que HyperPod está disponible: oeste de EE. UU. (Norte de California), oeste de EE. UU. (Oregón), Asia-Pacífico (Singapur), Asia-Pacífico (Sídney), Europa (Fráncfort), Europa (Irlanda) y Europa (Estocolmo).
Para obtener más información, visite la página web de SageMaker HyperPod y la documentación de gobernanza de tareas de SageMaker HyperPod.