Os modelos Ministral-3-3B-Instruct-2512 e Ministral-3-8B-Instruct-2512 agora estão disponíveis no Amazon SageMaker JumpStart
Os modelos Ministral-3-3B-Instruct-2512 e Ministral-3-8B-Instruct-2512 da Mistral AI estão agora disponíveis no Amazon SageMaker JumpStart, expandindo o portfólio de modelos básicos disponíveis para clientes da AWS. Esses dois modelos da família Ministral 3 trazem modelos de linguagem compactos e com capacidade de visão, criados especificamente para implantação de borda e ambientes com recursos limitados, permitindo que os clientes implantem soluções de IA escaláveis e de alto desempenho na infraestrutura da AWS.
Usando recursos especializados, esses modelos abordam diferentes desafios de IA empresarial:
O Ministral-3-3B-Instruct-2512 foi projetado para implantação de borda ultraleve com compreensão multimodal. Composto por um modelo de linguagem de 3,4 B e um codificador de visão de 0,4 B, ele cabe em apenas 8 GB de VRAM no FP8, ao mesmo tempo em que suporta uma janela de contexto de 256 mil tokens. Ele oferece análise de visão, acompanhamento de instruções multilíngues em dezenas de idiomas (incluindo inglês, francês, espanhol, alemão, chinês, japonês, coreano e árabe), forte adesão imediata ao sistema e chamada de funções nativas com saída JSON estruturada, tudo sob a licença Apache 2.0.
O Ministral-3-8B-Instruct-2512 oferece recursos de primeira linha comparáveis ao seu equivalente maior, o Mistral Small 3.2 24B, em um formato compacto de 8B. Construído com um modelo de linguagem de 8,4 B e um codificador de visão de 0,4 B, ele se encaixa em 12 GB de VRAM no FP8 e apresenta um padrão de atenção de janela deslizante intercalada para uma inferência mais rápida e eficiente em termos de memória. Ele compartilha os mesmos recursos de visão, multilíngue, agente e de chamada funcional de seu irmão 3B, ao mesmo tempo em que oferece raciocínio e desempenho de geração mais fortes.
Com o SageMaker JumpStart, os clientes podem implantar qualquer um desse modelos com apenas alguns cliques para abordar casos de uso de IA específicos.
Para começar a usar esses modelos, navegue até o catálogo de modelos do SageMaker JumpStart no SageMaker Studio ou use o SageMaker Python SDK para implantá-los na sua conta da AWS. Para obter mais informações sobre a implantação e o uso de modelos de base no SageMaker JumpStart, consulte a documentação do Amazon SageMaker JumpStart.