Amazon SageMaker HyperPod ora supporta il versionamento delle AMI e il patching automatico
Ora Amazon SageMaker HyperPod ti offre visibilità sulle versioni delle Amazon Machine Image (AMI) in esecuzione nei tuoi cluster e applica automaticamente le patch di sicurezza senza interrompere i tuoi carichi di lavoro. SageMaker HyperPod è un'infrastruttura progettata appositamente per l'addestramento e la distribuzione di modelli di base su larga scala. In precedenza, gli amministratori dei cluster disponevano di una visibilità limitata sulle versioni delle AMI in esecuzione: ciò rendeva difficile individuare il drift e trasformava il patching di sicurezza in un processo manuale e reattivo, particolarmente complicato da gestire durante i job di addestramento prolungati su più giorni, con il rischio di alterare il software integrato nell'AMI, come i driver NVIDIA o CUDA. Queste nuove funzionalità di HyperPod aiutano a mantenere i cluster sicuri e coerenti, eliminando al contempo l'onere operativo legato al patching manuale.
Grazie al versionamento delle AMI, puoi visualizzare la versione esatta dell'AMI su ogni gruppo di istanze e nodo nel formato di versionamento semantico (major.minor.patch), rilevare rapidamente il drift delle versioni ed effettuare il rollback a una versione precedente, inclusi il driver NVIDIA, CUDA e lo stack software precedenti, utilizzando l'API UpdateClusterSoftware. Il patching automatico è una funzionalità opzionale, configurabile per singolo gruppo di istanze, che applica esclusivamente patch di sicurezza retrocompatibili quando i nodi diventano inattivi: in questo modo i carichi di lavoro in esecuzione non subiscono interruzioni e i pacchetti AI/ML critici, come il driver NVIDIA, la versione CUDA e i kernel del sistema operativo, non vengono mai aggiornati a una versione major o minor diversa. Puoi abilitarlo tramite l'API CreateCluster o UpdateCluster. Una nuova policy di supporto delle AMI pubblica inoltre le tempistiche di supporto per le diverse versioni di AMI, trascorse le quali HyperPod interrompe la pubblicazione delle patch di sicurezza.
Sia il versionamento delle AMI sia il patching automatico sono disponibili per i cluster HyperPod orchestrati da Amazon EKS, in tutte le regioni AWS in cui SageMaker HyperPod è supportato. Per saperne di più, consulta la documentazione sulla gestione delle AMI di HyperPod e la nuovapolicy di supporto delle AMI di HyperPod.