Amazon SageMaker HyperPod が AMI のバージョニングと自動パッチ適用のサポートを開始
Amazon SageMaker HyperPod では、クラスター全体で実行されている Amazon マシンイメージ (AMI) のバージョンを可視化できるようになり、ワークロードを中断することなくセキュリティパッチを自動的に適用できるようになりました。SageMaker HyperPod は、基盤モデルを大規模にトレーニングおよびデプロイするために専用に構築されたインフラストラクチャです。これまで、クラスター管理者はどの AMI バージョンが実行されているかを十分に把握できておらず、ドリフトの検出が難しく、セキュリティパッチの適用は手動かつ事後対応のプロセスとなっていました。このプロセスは、数日にわたる長時間のトレーニングジョブでは実施が難しく、また NVIDIA ドライバーや CUDA など AMI にバンドルされたソフトウェアを変更してしまうリスクも伴っていました。HyperPod のこれらの新機能により、手動パッチ適用に伴う運用負荷を排除しながら、クラスターを安全かつ一貫性のある状態に保つことができます。
AMI バージョニングを使用すると、すべてのインスタンスグループおよびノードで、セマンティックバージョニング (major.minor.patch) 形式の正確な AMI バージョンを確認でき、バージョンドリフトを迅速に検出し、UpdateClusterSoftware API を使用して、以前の NVIDIA ドライバー、CUDA、その他のソフトウェアスタックを含む以前のバージョンにロールバックできます。自動パッチ適用は、インスタンスグループ単位で有効化できるオプトイン機能であり、ノードがアイドル状態になった際に、後方互換性のあるセキュリティパッチのみを適用します。そのため、実行中のワークロードは中断されず、NVIDIA ドライバー、CUDA バージョン、オペレーティングシステムカーネルなどの重要な AI/機械学習パッケージが、異なるメジャーバージョンやマイナーバージョンにアップグレードされることはありません。この機能は、CreateCluster または UpdateCluster API を使って有効化できます。また、新しい AMI サポートポリシーにより、各 AMI バージョンのサポート期限が公開されるようになります。この期限を過ぎると HyperPod はセキュリティパッチの提供を停止します。
AMI バージョニングと自動パッチ適用はいずれも、SageMaker HyperPod がサポートされているすべての AWS リージョンにおいて、Amazon EKS によってオーケストレーションされた HyperPod クラスターで利用できます。詳細については、HyperPod AMI の管理ドキュメントと新しい HyperPod AMI サポートポリシーを参照してください。