O Amazon SageMaker HyperPod agora oferece suporte ao versionamento de AMI e à aplicação automática de patches
Agora, o Amazon SageMaker HyperPod oferece visibilidade das versões da Amazon Machine Image (AMI) em execução em seus clusters e aplica automaticamente os patches de segurança sem interromper suas workloads. O SageMaker HyperPod é uma infraestrutura criada especificamente para desenvolver, treinar e implantar modelos de base em grande escala. Antes, os administradores de cluster tinham uma visão limitada sobre quais versões da AMI estavam em execução, tornando o drift difícil de detectar e a correção de segurança um processo manual e reativo que era difícil de executar em longos trabalhos de treinamento de vários dias e que corria o risco de alterar o software incluído na AMI, como drivers NVIDIA ou CUDA. Esses novos recursos do HyperPod ajudam você a manter os clusters seguros e consistentes, ao mesmo tempo em que eliminam a carga operacional da aplicação manual de patches.
Com o controle de versão da AMI, você pode ver a versão exata da AMI em cada grupo de instâncias e nó no formato de versionamento semântico (major.minor.patch), detectar rapidamente a variação de versão e reverter para uma versão anterior, incluindo o driver NVIDIA anterior, CUDA e outra pilha de software, usando a API UpdateClusterSoftware O patch automático é um recurso opcional por grupo de instâncias que aplica somente patches de segurança compatíveis com versões anteriores quando os nós ficam ociosos, para que suas workloads em execução permaneçam ininterruptas e pacotes essenciais de IA/ML, como driver NVIDIA, versão CUDA e kernels do sistema operacional, nunca sejam atualizados para uma versão principal ou secundária diferente; você pode habilitá-la por meio da API CreateCluster ou UpdateCluster. Uma nova política de suporte de AMI também publica cronogramas de suporte para diferentes versões de AMI, após as quais o HyperPod interrompe a publicação de patches de segurança.
Tanto o controle de versão da AMI quanto a correção automática estão disponíveis para clusters HyperPod orquestrados pelo Amazon EKS, em todas as regiões da AWS nas quais o SageMaker HyperPod é compatível. Para saber mais, consulte a documentação de gerenciamento da AMI do HyperPod e a nova política de suporte da AMI do HyperPod.