Amazon SageMaker AI が NVIDIA Nemotron 3.5 Lightning のサーバーレスモデルカスタマイズをサポート
Amazon SageMaker AI では、NVIDIA Nemotron 3.5 Lightning モデルのサーバーレスモデルカスタマイズがサポートされるようになりました。カスタマイズには、教師ありファインチューニング (SFT)、直接選好最適化 (DPO)、強化ファインチューニング (RFT) を使用できます。このモデルは NVIDIA の最新のオープンウェイトモデルの 1 つで、アクティブパラメータ数 30 億、総パラメータ数 300 億のハイブリッド Mixture-of-Experts アーキテクチャを採用しています。SageMaker AI にデプロイできることに加え、特定のドメインやワークフローに合わせて適応できるようになりました。
モデルカスタマイズでは、所有データを使用して基盤モデルを調整できます。そのため、用途に見合ったより小規模なモデルでも、対象のタスクでフロンティアモデルと同等の品質を実現しつつ、コストとレイテンシーを削減できます。ラベル付きデータと SFT を使用すると、ドメイン固有のタスクの精度を向上できます。また、選好データと DPO を使用すると出力を組織のトーンに合わせることができ、報酬シグナルと RFT を使用すると新しいタスクでのパフォーマンスを高めることができます。サーバーレスカスタマイズでは、SageMaker AI がすべてのインフラストラクチャプロビジョニングとトレーニングオーケストレーションを処理するため、ユーザーはクラスター管理ではなくデータと評価に集中でき、使用した分の料金を支払うだけで済みます。
SageMaker AI 上の NVIDIA Nemotron 3.5 Lightning のサーバーレスモデルカスタマイズは、米国東部 (バージニア北部)、米国西部 (オレゴン)、アジアパシフィック (東京)、欧州 (アイルランド) で利用できます。使用を開始するには、Amazon SageMaker Studio の [モデル] ページに移動してカスタマイズジョブを起動するか、SageMaker Python SDK を使用してプログラムからアクセスします。詳細については、Amazon SageMaker AI のモデルカスタマイズに関するドキュメントを参照してください。