Amazon SageMaker AI で SOCI インデックス付きイメージがサポートされ、トレーニングジョブを数秒で開始可能に
本日、Amazon SageMaker AI は、トレーニングおよび処理ジョブ用の Seekable OCI (SOCI) インデックス付きコンテナイメージのサポートを発表しました。これにより、ジョブでコードをより早く起動できます。SOCI インデックス付きイメージは Amazon SageMaker AI トレーニングコンテナを数秒で起動し、イメージをプル中の GPU アイドル時間を最大 90% 削減しますが、トレーニングのパフォーマンスには影響を与えません。トレーニングジョブまたは処理ジョブを実行する前に、SageMaker AI はそのジョブのコンテナイメージをインスタンスにダウンロードします。10 GB を超えることが多い深層学習イメージの場合、各ジョブを開始するまでにダウンロードに数分かかり、その時間に対して料金が発生します。今後、イメージに SOCI インデックスが組み込まれている場合、SageMaker AI はイメージを遅延ロードします。まずコンテナの起動に必要なファイルのみをフェッチし、残りはコードの実行中にバックグラウンドでストリーミングします。
この機能を使用するには、トレーニングジョブまたは処理ジョブ内でプライベート Amazon ECR リポジトリの SOCI インデックス付きイメージを参照してください。イメージタグを-soci バリアントに変更することで、事前にインデックス化された AWS 深層学習コンテナを使用できます。また、オープンソースツールを使用して、イメージを再ビルドせずに、Amazon ECR 内の独自のイメージに SOCI インデックスを追加することもできます。ジョブ定義、エントリポイント、データチャネルを変更する必要はありません。SageMaker AI はインデックスを自動的にチェックし、インデックスのないイメージは以前と同様にダウンロードされます。インデックスを使用できない場合、ジョブは標準ダウンロードに戻り、実行を継続します。
SageMaker AI トレーニングジョブおよび処理ジョブ用の SOCI インデックス付きイメージは、現在、SageMaker AI を利用可能なすべての AWS リージョンで、SageMaker AI API、CLI、SDK、およびコンソールを通じて利用可能です。詳細については、トレーニングジョブおよび処理ジョブのドキュメントを参照するか、リリースブログをご覧ください。