Presentamos las recetas de Amazon SageMaker HyperPod
Las fórmulas de Amazon SageMaker HyperPod le ayudan a empezar a entrenar y ajustar los modelos fundacionales (FM) disponibles al público en cuestión de minutos con un rendimiento de última generación. SageMaker HyperPod ayuda a los clientes a escalar el desarrollo de modelos de IA generativa en cientos o miles de aceleradores de IA con optimizaciones integradas de resiliencia y rendimiento, lo que reduce el tiempo de entrenamiento de los modelos hasta en un 40 %. Sin embargo, a medida que los tamaños de FM siguen creciendo hasta alcanzar los cientos de miles de millones de parámetros, el proceso de personalización de estos modelos puede llevar semanas de extensos experimentos y depuraciones. Además, realizar optimizaciones de formación para obtener una mejor relación precio-rendimiento suele ser inviable para los clientes, ya que a menudo requieren una profunda experiencia en machine learning que podría provocar más retrasos en el tiempo de comercialización.
Con las fórmulas de SageMaker HyperPod, los clientes de todos los niveles pueden beneficiarse de un rendimiento de última generación y, al mismo tiempo, empezar a entrenar y ajustar rápidamente los populares FM disponibles al público, como Llama 3.1 405B, Mixtral 8x22B y Mistral 7B. Las fórmulas de SageMaker HyperPod incluyen una pila de entrenamiento probada por AWS, lo que elimina semanas de tedioso trabajo experimentando con diferentes configuraciones de modelos. También puede cambiar rápidamente entre instancias basadas en GPU e instancias basadas en AWS Trainium con un cambio de fórmula de una línea y habilitar los puntos de control automatizados del modelo para mejorar la resiliencia de la capacitación. Por último, puede ejecutar cargas de trabajo en producción en el servicio de entrenamiento de IA de SageMaker que prefiera.
Las fórmulas de SageMaker HyperPod están disponibles en todas las regiones de AWS en las que se admiten los trabajos de formación de SageMaker HyperPod y SageMaker. Para obtener más información y comenzar, visite la página de SageMaker HyperPod y el blog.