O modelo Nemotron 3.5 Super VL já está disponível no Amazon SageMaker JumpStart
O modelo Nemotron 3.5 Super VL da NVIDIA já está disponível no Amazon SageMaker JumpStart, ampliando o portfólio de modelos de base disponíveis para clientes da AWS. Esse modelo de linguagem de visão da família Nemotron 3.5 aceita imagens, vídeo e texto como entrada e gera texto, permitindo que os clientes implantem soluções multimodais de IA na infraestrutura da AWS.
O Nemotron 3.5 Super VL foi projetado para inteligência de documentos, compreensão de GUI, resposta a perguntas em vídeo e aplicações de agentes multimodais. Ele combina um backbone de linguagem híbrida de mistura de especialistas (MoE) de 120 B de parâmetros com 12 B de parâmetros ativos e um codificador de visão, suportando comprimentos de contexto de até 1 milhão de tokens. O modelo inclui um cabeçalho de previsão multitoken (MTP) integrado para decodificação especulativa para acelerar a geração de texto, com raciocínio configurável por solicitação. Ele é compatível com dez idiomas, incluindo inglês, francês, espanhol, alemão, japonês, hindi, coreano e chinês. Pós-treinado com ajuste fino supervisionado multimodal em dados de imagem, vídeo, documento, gráfico e GUI, seguido pelo aprendizado por reforço do GRPO, ele fornece saída JSON estruturada, chamada de ferramentas e raciocínio configurável para fluxos de trabalho de agentes corporativos. O SageMaker JumpStart oferece duas variantes: NVFP4 para inferência otimizada em instâncias G7 com GPUs NVIDIA RTX PRO 4500 Blackwell Server Edition e pesos de referência BF16 em ml.p5en.48xlarge para personalização, incluindo SFT, RL, destilação e adaptação de domínio.
Com o SageMaker JumpStart, os clientes podem implantar o Nemotron 3.5 Super VL com apenas alguns cliques para abordar casos de uso de IA específicos.
Para começar a usar esses modelos, navegue até o catálogo de modelos do SageMaker JumpStart no SageMaker Studio ou use o SageMaker Python SDK para implantá-los na sua conta da AWS. Para obter mais informações sobre a implantação e o uso de modelos de base no SageMaker JumpStart, consulte a documentação do Amazon SageMaker JumpStart.