Amazon SageMaker HyperPod prend désormais en charge la gestion des versions AMI et l’application automatique de correctifs
Amazon SageMaker HyperPod vous donne désormais une visibilité sur les versions d’Amazon Machine Image (AMI) exécutées sur vos clusters et applique automatiquement des correctifs de sécurité sans perturber vos charges de travail. SageMaker HyperPod est une infrastructure spécialement conçue pour l’entraînement et le déploiement de modèles de fondation à grande échelle. Les administrateurs de clusters n’avaient auparavant qu’une connaissance limitée des versions de l’AMI en cours d’exécution, ce qui compliquait la détection des dérivées et l’application de correctifs de sécurité à un processus manuel et réactif, qui était difficile à exécuter lors de longues tâches d’entraînement de plusieurs jours et risquait de modifier les logiciels intégrés à l’AMI, tels que les pilotes NVIDIA ou CUDA. Ces nouvelles fonctionnalités d’HyperPod vous aident à garantir la sécurité et la cohérence des clusters tout en supprimant la charge opérationnelle liée à l’application manuelle des correctifs.
Grâce à la gestion des versions AMI, vous pouvez voir la version exacte de l’AMI sur chaque groupe d’instances et chaque nœud au format de gestion sémantique des versions (major.minor.patch), détecter rapidement toute dérive de version et revenir à une version précédente, y compris le pilote NVIDIA antérieur, CUDA et d’autres piles logicielles, à l’aide de l’API UpdateClusterSoftware. L’application automatique des correctifs est une fonctionnalité optionnelle par groupe d’instances, qui applique uniquement des correctifs de sécurité rétrocompatibles lorsque les nœuds deviennent inactifs. Ainsi, vos charges de travail en cours d’exécution restent intactes et les packages d’IA et de ML critiques tels que le pilote NVIDIA, la version CUDA et les noyaux du système d’exploitation ne sont jamais mis à niveau vers une version majeure ou mineure différente ; vous pouvez l’activer via l’API CreateCluster ou UpdateCluster. Une nouvelle politique de support AMI publie également des délais de support pour les différentes versions d’AMI, après quoi HyperPod cesse de publier des correctifs de sécurité.
La gestion des versions AMI et l’application automatique de correctifs sont disponibles pour les clusters HyperPod orchestrés par Amazon EKS, dans toutes les Régions AWS où SageMaker HyperPod est pris en charge. Pour en savoir plus, consultez la documentation de gestion des AMI HyperPod et la nouvelle politique de support des AMI HyperPod.