Amazon SageMaker HyperPod introduce il supporto per le Amazon Machine Images (AMI) personalizzate per i cluster Slurm
Amazon SageMaker HyperPod introduce il supporto per le AMI personalizzate nei cluster orchestrati con Slurm, offrendo ai clienti la possibilità di distribuire cluster con ambienti preconfigurati e sottoposti a hardening di sicurezza, in linea con le esigenze specifiche della loro organizzazione. I clienti che distribuiscono carichi di lavoro di AI/ML sui cluster Slurm di HyperPod necessitano di ambienti personalizzati che rispettino rigidi standard di sicurezza, conformità e operatività, senza sacrificare la velocità di avvio dei cluster. Tuttavia, spesso si trovano a dover affrontare script complessi di configurazione del ciclo di vita che rallentano la distribuzione e creano incoerenze tra i nodi dei cluster.
Questa funzionalità consente ai clienti di partire dalle AMI di base ottimizzate per le prestazioni di HyperPod, integrando al loro interno agenti di sicurezza personalizzati, strumenti di conformità, librerie proprietarie e driver specializzati, ottenendo così tempi di avvio più rapidi, maggiore affidabilità e una conformità di sicurezza rafforzata. I team di sicurezza possono incorporare le policy aziendali direttamente nelle immagini di base, consentendo ai team di AI/ML di utilizzare ambienti preapprovati che accelerano i tempi di formazione e rispettano al contempo gli standard di sicurezza aziendali. Le AMI personalizzate possono essere definite sia nella creazione di nuovi cluster Slurm di HyperPod con l'API CreateCluster, sia nell'aggiunta di gruppi di istanze con l'API UpdateCluster, sia nell'aggiornamento dei cluster già esistenti tramite l'API UpdateClusterSoftware. Per garantire la compatibilità con le librerie di addestramento distribuito e le funzionalità di gestione dei cluster, le AMI personalizzate devono basarsi sulle AMI pubbliche di base fornite da HyperPod.
Questa funzionalità è disponibile in tutte le regioni AWS in cui è supportato Amazon SageMaker HyperPod. Per ulteriori informazioni sul supporto alle AMI personalizzate per i cluster Slurm, consulta la Guida per l'utente di Amazon SageMaker HyperPod.