Amazon SageMaker HyperPod ahora admite la ejecución de IDE y cuadernos para acelerar el desarrollo de la IA
Amazon SageMaker HyperPod ahora admite cuadernos y entornos de desarrollo integrado (IDE). Esto permite que los desarrolladores de IA ejecuten JupyterLab, el editor de código o conecten IDE locales con el objetivo de ejecutar sus cargas de trabajo de IA interactivas directamente en clústeres de HyperPod.
La versión permite a los desarrolladores de IA ejecutar los IDE y cuadernos en los mismos clústeres persistentes de HyperPod EKS que se utilizan para el entrenamiento y la inferencia. Los desarrolladores pueden aprovechar la capacidad de GPU escalable de HyperPod con herramientas conocidas, como la CLI de HyperPod, al mismo tiempo que comparten datos entre los IDE y trabajos de entrenamiento a través de sistemas de archivos montados, como FSx y EFS. La solución admite la ejecución de varios IDE en la misma instancia de GPU, así como en una sola GPU, al aprovechar la compatibilidad con GPU de instancias múltiples (MIG) en HyperPod.
Los administradores pueden maximizar las inversiones en CPU/GPU mediante la gobernanza unificada de los IDE, el entrenamiento y las cargas de trabajo de inferencia mediante la gobernanza de tareas de HyperPod. La observabilidad de HyperPod proporciona métricas de uso completas que incluyen el consumo de CPU, GPU y memoria. De este modo, los administradores pueden optimizar la utilización del clúster y gestionar los costos de manera eficaz.
Esta característica está disponible en todas las regiones de AWS en las que Amazon SageMaker HyperPod está disponible actualmente, excepto en las regiones de China y GovCloud (EE. UU.). Para conocer más detalles, consulte nuestra documentación.