Das Modell Nemotron 3.5 Super VL ist jetzt auf Amazon SageMaker JumpStart verfügbar
Nemotron 3.5 Super VL von NVIDIA ist jetzt in Amazon SageMaker JumpStart verfügbar und erweitert damit das Portfolio der Foundation-Modelle, die AWS-Kunden zur Verfügung stehen. Dieses Vision-Language-Modell aus der Nemotron 3.5-Familie akzeptiert Bilder, Video und Text als Eingabe und generiert Text, sodass die Kunden multimodale KI-Lösungen auf der AWS-Infrastruktur bereitstellen können.
Nemotron 3.5 Super VL wurde für Dokumentenintelligenz, GUI-Verständnis, Beantwortung von Videofragen und multimodale Agentenanwendungen entwickelt. Es kombiniert ein hybrides Mixture-of-Experts-Sprach-Backbone (MoE) mit 120 Milliarden Parametern mit 12 Milliarden aktiven Parametern und einem Bildverarbeitungs-Encoder und unterstützt Kontextlängen von bis zu 1 Million Token. Das Modell beinhaltet einen integrierten Multi-Token-Prediction (MTP) -Kopf für spekulative Dekodierung, um die Textgenerierung zu beschleunigen, wobei das Reasoning pro Anfrage konfigurierbar ist. Es unterstützt zehn Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Japanisch, Hindi, Koreanisch und Chinesisch. Nach dem Training mit multimodaler, überwachter Feinabstimmung an Bild-, Video-, Dokument-, Diagramm- und GUI-Daten, gefolgt von GRPO-Verstärkungslernen, liefert es strukturierte JSON-Ausgabe, Tool-Aufrufe und konfigurierbares Reasoning für Agenten-Workflows im Unternehmen. SageMaker JumpStart bietet zwei Varianten: NVFP4 für optimierte Inferenz auf G7-Instances mit NVIDIA RTX PRO 4500 Blackwell Server Edition-GPUs und BF16-Referenzgewichte auf ml.p5en.48xlarge für Anpassungen wie SFT, RL, Destillation und Domain-Anpassung.
Mit SageMaker JumpStart können Kunden Nemotron 3.5 Super VL mit nur wenigen Klicks für ihre spezifischen KI-Anwendungsfälle bereitstellen.
Um mit diesen Modellen zu beginnen, navigieren Sie in der SageMaker-Konsole zum SageMaker JumpStart-Modellkatalog oder nutzen Sie das SageMaker-Python-SDK, um die Modelle in Ihrem AWS-Konto bereitzustellen. Weitere Informationen zur Bereitstellung und Verwendung von Foundation-Modellen in SageMaker JumpStart finden Sie in der Dokumentation zu Amazon SageMaker JumpStart.