Amazon SageMaker AI でサーバーレスモデルカスタマイズ向けのトレーニングセッション API の提供を開始
Amazon SageMaker AI のサーバーレスモデルカスタマイズでトレーニングセッション API がサポートされ、GPU インフラストラクチャのプロビジョニングや管理を行うことなく、事後トレーニングアルゴリズムを完全に制御できるようになりました。SFT、DPO、その他の強化学習手法を含むマネージドな手法では、手法とモデルを選択するだけで、SageMaker AI にトレーニングを実行させることができます。トレーニングセッション API を使用すると、SFT や DPO を独自の方法で再現する場合でも、カスタム損失、新しい強化学習の報酬シグナル、データカリキュラム、最新の研究によるアルゴリズムを実装する場合でも、チームがトレーニングループを記述できるようになります。forward_backward()、optim_step()、sample() などのオペレーションは、稼働中のステートフルなセッションに対する API コールとなります。そのため、SageMaker AI が GPU の割り当て、モデルおよび LoRA のロード、分散実行、障害復旧、チェックポイントストレージ、セキュリティを処理している間に、お客様は手法に必要なあらゆるトレーニング手順を構成できます。
チェックポイント機能と再開機能が組み込まれており、お客様は独自の Python コードからこれらのオペレーションを直接呼び出して、稼働中のセッションに対して強化学習、教師ありファインチューニング、またはカスタムのトレーニング目標を実行できます。請求は処理されたトークンごとに行われるため、報酬スコアリングのようなローカル計算が GPU 時間として請求されることはありません。SageMaker AI は、お客様が独自のトレーニングループのブループリントとして使用できる、すぐに実行可能な SFT および強化学習のレシピセットである SageMaker トレーニングセッションクックブック もリリースします。
トレーニングセッション API は、現在、米国東部 (バージニア北部)、米国西部 (オレゴン)、アジアパシフィック (ムンバイ) で一般提供されています。使用を開始するには、SageMaker Python SDK をインストールしてクックブックを複製するか、SageMaker Studio でノートブックを起動してコーディングエージェントを接続してください。詳細については、ドキュメントと Amazon SageMaker AI のウェブページを参照してください。