Il modello Nemotron 3.5 Super VL è ora disponibile su Amazon SageMaker JumpStart
Nemotron 3.5 Super VL di NVIDIA è ora disponibile su Amazon SageMaker JumpStart, ampliando il portafoglio di modelli di fondazione a disposizione dei clienti AWS. Questo modello vision-language della famiglia Nemotron 3.5 accetta in input immagini, video e testo e genera testo, consentendo ai clienti di distribuire soluzioni di IA multimodali sull'infrastruttura AWS.
Nemotron 3.5 Super VL è progettato per l’intelligence dei documenti, comprensione dell'interfaccia utente grafica (GUI), risposta a domande su video ed applicazioni agentiche multimodali. Abbina un'architettura di base linguistica ibrida Mixture-of-Experts (MoE) da 120 miliardi di parametri con 12 miliardi di parametri attivi e un encoder visivo, supportando lunghezze di contesto fino a 1 milione di token. Il modello include una testina di Multi-Token Prediction (MTP) integrata per la decodifica speculativa al fine di accelerare la generazione di testo, con ragionamento configurabile per singola richiesta. Supporta dieci lingue, tra cui inglese, francese, spagnolo, tedesco, giapponese, hindi, coreano e cinese. Sottoposto a post-addestramento con fine-tuning supervisionato multimodale su dati di immagini, video, documenti, grafici e GUI, seguito da apprendimento per rinforzo GRPO, offre output JSON strutturato, chiamata di strumenti e ragionamento configurabile per i flussi di lavoro degli agenti aziendali. SageMaker JumpStart offre due varianti: NVFP4 per l'inferenza ottimizzata su istanze G7 con GPU NVIDIA RTX PRO 4500 Blackwell Server Edition e pesi di riferimento BF16 su ml.p5en.48xlarge per la personalizzazione, inclusi SFT, RL, distillazione e adattamento del dominio.
SageMaker JumpStart consente ai clienti di distribuire Nemotron 3.5 Super VL con pochi clic per rispondere a specifici casi d'uso di IA.
Per iniziare, accedi al catalogo modelli di SageMaker JumpStart nella console SageMaker oppure utilizza l'SDK SageMaker Python per distribuire i modelli nell'account AWS. Per ulteriori informazioni sulla distribuzione e l'utilizzo dei modelli di fondazione in SageMaker JumpStart, consulta la documentazione di Amazon SageMaker JumpStart.