Amazon SageMaker HyperPod, 이제 AMI 버전 관리와 자동 패치 지원
Amazon SageMaker HyperPod가 이제 여러 클러스터에서 실행 중인 Amazon Machine Image(AMI) 버전에 대한 가시성을 제공하고, 워크로드 중단 없이 보안 패치를 자동으로 적용합니다. SageMaker HyperPod는 대규모로 파운데이션 모델을 훈련하고 배포하기 위해 특별히 구축된 인프라입니다. 이전에는 클러스터 관리자가 현재 실행 중인 AMI 버전 정보를 제한적으로만 알았기 때문에 드리프트를 감지하기 어려웠고 보안 패치 적용은 사후에 수동으로 진행되었습니다. 며칠에 걸친 긴 훈련 작업에서는 어려움이 따랐으며 NVIDIA 드라이버나 CUDA처럼 AMI에 번들로 포함된 소프트웨어가 변경될 위험도 있었습니다. HyperPod의 이러한 새로운 기능은 클러스터를 안전하고 일관되게 유지하는 동시에 수동 패치로 인한 운영 부담을 없앱니다.
AMI 버전 관리가 적용되면 모든 인스턴스 그룹과 노드에서 시맨틱 버전 관리(major.minor.patch) 형식으로 정확한 AMI 버전을 파악하고, 버전 변경을 신속하게 감지하며, UpdateClusterSoftware API를 사용하여 이전 버전(이전 NVIDIA 드라이버, CUDA, 기타 소프트웨어 스택 포함)으로 롤백할 수 있습니다. 자동 패치 적용은 인스턴스 그룹별로 옵트인하는 기능으로, 노드가 유휴 상태가 되면 이전 버전과 호환되는 보안 패치만 적용합니다. 따라서 실행 중인 워크로드는 중단 없이 유지되며, NVIDIA 드라이버, CUDA 버전, 운영 체제 커널 등 중요한 AI/ML 패키지는 다른 메이저 또는 마이너 버전으로 업그레이드되지 않습니다. 설정은 CreateCluster 또는 UpdateCluster API를 통해 활성화할 수 있습니다. 새로운 AMI 지원 정책으로 다양한 AMI 버전에 대한 지원 일정도 게시되며, 이후 HyperPod에서는 보안 패치 게시가 중단됩니다.
SageMaker HyperPod가 지원되는 모든 AWS 리전에서, Amazon EKS가 오케스트레이션하는 HyperPod 클러스터에 대해 AMI 버전 관리와 자동 패치를 모두 사용할 수 있습니다. 자세한 내용은 HyperPod AMI 관리 설명서와 새로운 HyperPod AMI 지원 정책을 참조하세요.