Amazon SageMaker HyperPod

SageMaker HyperPod ofrece un entorno resiliente para el desarrollo de modelos que detecta y diagnostica fallas en la infraestructura y se recupera de ellas, lo que da lugar a la ejecución continua de las cargas de trabajo del desarrollo de modelos durante meses sin interrupciones. El entrenamiento sin puntos control en SageMaker HyperPod reduce la necesidad de reiniciar el nivel de trabajo en función del punto de control y permite avanzar en el entrenamiento a pesar de los errores, lo que supone un ahorro en costos de procesamiento inactivo durante la recuperación y acelera el tiempo de comercialización en semanas.

La innovación en gobernanza de tareas de SageMaker HyperPod le brinda visibilidad y control totales sobre la asignación de recursos de computación en todas las tareas de desarrollo de modelos, incluidos el entrenamiento, el ajuste, la experimentación y la inferencia. SageMaker HyperPod administra automáticamente las colas de tareas, lo que garantiza que las tareas más fundamentales se prioricen y se completen a tiempo y dentro del presupuesto. Al mismo tiempo, optimiza el uso de los recursos de computación para reducir hasta un 40 % los costes de desarrollo de modelos. Además, SageMaker HyperPod proporciona capacidad de observación avanzada con visibilidad unificada de las tareas de desarrollo de modelos de IA y los recursos de computación.

Con las recetas para SageMaker HyperPod, los científicos de datos y los desarrolladores de todos los niveles se benefician de un rendimiento de última generación y, al mismo tiempo, pueden comenzar a entrenar y ajustar los modelos fundacionales disponibles públicamente en minutos. Además, mediante las recetas puede personalizar los modelos de Amazon Nova, incluidos Nova Micro, Nova Lite y Nova Pro, para casos de uso específicos de su empresa, a fin de mejorar la precisión de sus aplicaciones de IA generativa y, al mismo tiempo, mantener la relación entre precio y rendimiento y la baja latencia, líderes en su sector. Amazon Nova Forge es un programa único en su especie que ofrece a las organizaciones la forma más fácil y rentable de crear sus propios modelos de frontera con Nova.

Con SageMaker HyperPod puede dividir de manera automática sus modelos y conjuntos de datos de entrenamiento entre las instancias del clúster de AWS, a fin de escalar las cargas de trabajo de entrenamiento de manera eficiente. Ayuda a optimizar el trabajo de entrenamiento para la topología del clúster y la infraestructura de red de AWS. También optimiza los puntos de control del modelo con recetas mediante la optimización de la frecuencia con la que se guardan los puntos de control, lo que garantiza una sobrecarga mínima durante el entrenamiento.

SageMaker HyperPod permite acelerar los despliegues de los modelos con parámetros de acceso abierto de SageMaker JumpStart y de los modelos refinados de Amazon Simple Storage Service (Amazon S3) y Amazon FSx. Puede simplificar las tareas de despliegue de modelos gracias al aprovisionamiento automático, la administración de los recursos de computación mediante la gobernanza de tareas, la supervisión del rendimiento en tiempo real y la observabilidad mejorada.