Amazon SageMaker HyperPod ahora admite la aplicación automática de parches de AMI y el control de versiones
Amazon SageMaker HyperPod ahora le permite ver las versiones de imagen de máquina de Amazon (AMI) que se ejecutan en sus clústeres y aplica automáticamente los parches de seguridad sin interrumpir las cargas de trabajo. SageMaker HyperPod es una infraestructura diseñada específicamente para entrenar e implementar modelos fundacionales a escala. Anteriormente, los administradores de clústeres tenían una visibilidad limitada sobre qué versiones de AMI estaban en ejecución, lo que dificultaba detectar desviaciones de la configuración. Además, la aplicación de parches de seguridad era un proceso manual y reactivo, difícil aplicara a trabajos de entrenamiento de larga duración que se ejecutaban durante varios días y que implicaba el riesgo de modificar el software incluido en la AMI, como los controladores de NVIDIA o CUDA. Estas nuevas funciones de HyperPod ayudan a mantener la seguridad y la coherencia de los clústeres, a la vez que eliminan la carga operativa que supone la aplicación manual de parches.
Con el control de versiones de AMI, puede ver la versión exacta de la imagen de máquina en cada grupo de instancias y nodo en el formato de control de versiones semántico (major.minor.patch), detectar rápidamente versiones y volver a una versión anterior (incluidos el controlador NVIDIA anterior, CUDA y otra pila de software) mediante la API UpdateClusterSoftware. La aplicación automática de parches es una función opcional por grupo de instancias que solo aplica parches de seguridad compatibles con versiones anteriores cuando los nodos quedan inactivos. De este modo, las cargas de trabajo en ejecución permanecen ininterrumpidas y los paquetes de AI/ML esenciales, como el controlador NVIDIA, la versión CUDA y los kernels del sistema operativo, nunca se actualizan a una versión principal o secundaria diferente. Puede habilitar esta caracterítica mediante la API CreateCluster o UpdateCluster. Una nueva política de soporte de AMI también publica los plazos de soporte para las diferentes versiones de AMI, tras los cuales HyperPod deja de publicar parches de seguridad.
Tanto el control de versiones como la aplicación automática de parches de AMI están disponibles para los clústeres de HyperPod orquestados por Amazon EKS en todas las regiones de AWS en las que se admite SageMaker HyperPod. Para obtener más información, consulte la documentación de administración de la AMI de HyperPod y la nueva política de soporte de la AMI de HyperPod.