Nemotron 3.5 Super VL modeli artık Amazon SageMaker JumpStart'ta kullanılabilir
NVIDIA'nın Nemotron 3.5 Super VL modeli artık Amazon SageMaker JumpStart'ta mevcut ve AWS müşterilerinin kullanabileceği temel modelleri portföyünü genişletiyor. Nemotron 3.5 ailesinin bu görme-dil modeli, görüntüleri, videoları ve metni girdi olarak kabul eder ve metin oluşturur ve müşterilerin AWS altyapısında çok modlu yapay zeka çözümleri dağıtmasına olanak tanır.
Nemotron 3.5 Super VL, belge zekası, GUI anlayışı, video soru yanıtlama ve çok modlu temsilci uygulamaları için tasarlanmıştır. 120 milyar parametreli hibrit Uzmanların Karışımı (MoE) dil omurgasını 12 milyar aktif parametre ve bir görme kodlayıcısı ile eşleştirir ve 1 milyon belirtece kadar bağlam uzunluklarını destekler. Model, istek başına yapılandırılabilir akıl yürütme ile metin oluşturmayı hızlandırmak üzere spekülatif kod çözme için yerleşik bir Çoklu Belirteç Tahmini (MTP) başı içerir. İngilizce, Fransızca, İspanyolca, Almanca, Japonca, Hintçe, Korece ve Çince dahil olmak üzere on dili destekler. Görüntü, video, belge, grafik ve GUI verilerinde çok modlu denetimli ince ayar ve ardından GRPO pekiştirme öğrenimi ile eğitildikten sonra, kurumsal temsilci iş akışları için yapılandırılmış JSON çıktısı, araç çağırma ve yapılandırılabilir akıl yürütme sağlar. SageMaker JumpStart iki varyant sunar: NVIDIA RTX PRO 4500 Blackwell Server Edition GPU'lara sahip G7 bulut sunucularında optimize edilmiş çıkarım için NVFP4 ve SFT, RL, damıtma ve etki alanı uyarlaması dahil özelleştirme için ml.p5en.48xlarge üzerindeki BF16 referans ağırlıkları.
SageMaker JumpStart ile müşteriler, belirli yapay zeka kullanım durumlarını ele almak için sadece birkaç tıklamayla Nemotron 3.5 Super VL'yi devreye alabilirler.
Bu modelleri kullanmaya başlamak için SageMaker konsolunda SageMaker JumpStart model kataloğuna gidin veya modelleri AWS hesabınıza dağıtmak için SageMaker Python SDK'sini kullanın. SageMaker JumpStart'ta temel model dağıtma ve kullanma hakkında daha fazla bilgi için Amazon SageMaker JumpStart belgelerine bakın.