Amazon SageMaker JumpStart で Nemotron 3.5 Super VL モデルの提供を開始
NVIDIA の Nemotron 3.5 Super VL が Amazon SageMaker JumpStart で利用可能になり、AWS のお客様が利用できる基盤モデルのラインアップが拡充されました。Nemotron 3.5 ファミリーに属するこの視覚言語モデルは、画像、動画、テキストを入力として受け取り、テキストを生成します。これにより、お客様は AWS インフラストラクチャ上にマルチモーダル AI ソリューションをデプロイできます。
Nemotron 3.5 Super VL は、文書の理解および分析、GUI の認識、動画の内容に関する質問への回答、マルチモーダル AI エージェントアプリケーションといった用途に対応するよう設計されています。このモデルでは、総パラメータ数が 1,200 億個、有効パラメータ数が 120 億個のハイブリッド型 Mixture-of-Experts (MoE) 言語モデル基盤にビジョンエンコーダーを組み合わせることで、最大 100 万トークンのコンテキスト長に対応しています。このモデルは、投機的デコーディングによってテキスト生成を高速化するための Multi-Token Prediction (MTP) ヘッドを標準搭載しており、推論の設定をリクエスト単位で変更できます。対応言語は 10 言語です。その中には英語、フランス語、スペイン語、ドイツ語、日本語、ヒンディー語、韓国語、中国語があります。このモデルには、画像、動画、文書、グラフ、GUI のデータによるマルチモーダル教師ありファインチューニングと、その後の GRPO 強化学習による追加学習が施されています。これにより、企業のエージェントワークフローに必要な構造化 JSON 出力、ツール呼び出し、カスタマイズ可能な推論機能を提供します。SageMaker JumpStart では、2 種類のバリエーションを提供しています。1 つは、NVIDIA RTX PRO 4500 Blackwell Server Edition GPU を搭載した G7 インスタンスでの推論に最適化された NVFP4 で、もう 1 つは、ml.p5en.48xlarge 上で SFT、RL、蒸留、ドメイン適応などのカスタマイズに使用できる BF16 リファレンスウェイトです。
SageMaker JumpStart を使用すると、お客様は数回クリックするだけで Nemotron 3.5 Super VL をデプロイし、特定の AI ユースケースに対応できます。
これらのモデルの使用を開始するには、SageMaker コンソールの SageMaker JumpStart モデルカタログにアクセスするか、SageMaker Python SDK を使用して AWS アカウントにモデルをデプロイしてください。SageMaker JumpStart での基盤モデルのデプロイと使用方法の詳細については、Amazon SageMaker JumpStart のドキュメントをご覧ください。