Os modelos Gemma-4-31B-IT-Assistant e Gemma-4-31b-IT-NVFP4 agora estão disponíveis no Amazon SageMaker JumpStart
Os modelos Gemma-4-31b-IT-Assistant do Google DeepMind e Gemma-4-31b-IT-NVFP4 da NVIDIA agora estão disponíveis no Amazon SageMaker JumpStart, expandindo o portfólio de modelos básicos disponíveis para clientes da AWS. Esses dois modelos trazem a principal arquitetura densa Gemma 4 31B para workloads corporativas em variantes quantizadas otimizadas e de precisão total, permitindo que os clientes implantem soluções de IA escaláveis e de alto desempenho na infraestrutura da AWS.
Usando recursos especializados, esses modelos abordam diferentes desafios de IA empresarial:
O GEMMA-4-31B-IT-Assistant foi desenvolvido para raciocínio multimodal, codificação e fluxos de trabalho agêntico como a variante ajustada pelo assistente do principal modelo denso 31B do Google. Ele manipula entradas de texto e imagem (incluindo vídeo como sequências de quadros) e gera saída de texto, com uma janela de contexto de 256 mil tokens e suporte para mais de 140 idiomas. Classificado em 3º lugar entre os modelos de código aberto no ranking de texto da Arena AI — superando modelos 20 vezes maiores —, ele conta com um mecanismo de atenção híbrido que alterna entre atenção local de janela deslizante e atenção global completa, além de oferecer suporte nativo à chamada de funções para a criação de agentes autônomos.
O Gemma-4-31B-IT-NVFP4 oferece os mesmos recursos do Gemma 4 31B com uma fração do consumo de memória. Quantizado com a estrutura ModelOpt da NVIDIA para precisão de FP4 de 4 bits, ele reduz o uso de memória para aproximadamente 18,5 GB (68% menor que o modelo básico) e alcança uma inferência aproximadamente 2,5 vezes mais rápida, mantendo 97 a 99% da qualidade do modelo original. Ideal para implantações de produção econômicas e de alto throughput em GPUs NVIDIA RTX, DGX Spark e de data center.
Com o SageMaker JumpStart, os clientes podem implantar qualquer um desse modelos com apenas alguns cliques para abordar casos de uso de IA específicos.
Para começar a usar esses modelos, navegue até o catálogo de modelos do SageMaker JumpStart no SageMaker Studio ou use o SageMaker Python SDK para implantá-los na sua conta da AWS. Para obter mais informações sobre a implantação e o uso de modelos de base no SageMaker JumpStart, consulte a documentação do Amazon SageMaker JumpStart.