Модель Nemotron 3.5 Super VL теперь доступна в Amazon SageMaker JumpStart
Amazon SageMaker JumpStart расширяет портфель базовых моделей, доступных клиентам AWS, за счет модели NVIDIA Nemotron 3.5 Super VL. Эта визуально-языковая модель из семейства Nemotron 3.5 принимает на вход изображения, видео и текст и генерирует текст, позволяя клиентам развертывать мультимодальные решения ИИ в инфраструктуре AWS.
Модель Nemotron 3.5 Super VL предназначена для анализа документов, понимания графических интерфейсов, ответов на вопросы по видео и мультимодальных приложений с агентами ИИ. Она сочетает гибридную языковую модель на базе архитектуры «Смесь экспертов» (Mixture-of-Experts, MoE) с 120 млрд параметров, 12 млрд активных параметров и кодировщик изображений, поддерживая контекст длиной до 1 млн токенов. Модель включает встроенный модуль предсказания нескольких токенов (Multi-Token Prediction, MTP) для спекулятивного декодирования, ускоряющего генерацию текста, а логические рассуждения можно настраивать для каждого запроса. Она поддерживает десять языков, включая английский, французский, испанский, немецкий, японский, хинди, корейский и китайский. После дополнительного обучения с помощью мультимодальной контролируемой точной настройки на данных изображений, видео, документов, диаграмм и графических интерфейсов, а затем обучения с подкреплением GRPO, модель обеспечивает структурированный вывод в формате JSON, вызов инструментов и настраиваемые логические рассуждения для рабочих процессов корпоративных агентов. SageMaker JumpStart предлагает два варианта: NVFP4 для оптимизированного вывода на инстансах G7 с графическими процессорами NVIDIA RTX PRO 4500 Blackwell Server Edition и эталонные веса BF16 на ml.p5en.48xlarge для индивидуальной настройки, включая SFT, RL, дистилляцию и адаптацию домена.
Используя SageMaker JumpStart, клиенты могут развернуть Nemotron 3.5 Super VL всего несколькими щелчками мыши для своих примеров использования ИИ.
Чтобы начать работу с этими моделями, откройте каталог моделей SageMaker JumpStart в консоли SageMaker или воспользуйтесь пакетом средств разработки ПО (SDK) SageMaker для Python, чтобы развернуть модели в своем аккаунте AWS. Подробные инструкции о развертывании и использовании базовых моделей в SageMaker JumpStart см. в документации Amazon SageMaker JumpStart.