I modelli Ministral-3-3B-Instruct-2512 e Ministral-3-8B-Instruct-2512 sono ora disponibili su Amazon SageMaker JumpStart
I modelli Ministral-3-3B-Instruct-2512 e Ministral-3-8B-Instruct-2512 di Mistral AI sono ora disponibili su Amazon SageMaker JumpStart, ampliando il portfolio di modelli di base a disposizione dei clienti AWS. Questi due modelli della famiglia Ministral 3 offrono modelli linguistici compatti e visivi, creati appositamente per l'implementazione edge e gli ambienti con risorse limitate, che consentono ai clienti di implementare soluzioni di IA scalabili e ad alte prestazioni sull'infrastruttura AWS.
I modelli rispondono a diverse sfide dell'IA per le aziende con capacità dedicate:
Ministral-3-3B-Instruct-2512 è progettato per distribuzioni edge ultraleggere con comprensione multimodale. Composto da un modello di linguaggio da 3,4 miliardi di parametri e da un visual encoder da 0,4 miliardi, richiede appena 8 GB di VRAM in FP8 e supporta una finestra di contesto di 256K token. Offre analisi visiva, esecuzione di istruzioni multilingue in decine di lingue (tra cui inglese, francese, spagnolo, tedesco, cinese, giapponese, coreano e arabo), elevata aderenza ai prompt di sistema e chiamata di funzioni nativa con output JSON strutturato, il tutto sotto licenza Apache 2.0.
Ministral-3-8B-Instruct-2512 offre funzionalità di livello avanzato comparabili a quelle della controparte più grande Mistral Small 3.2 24B in un fattore di forma compatto da 8 miliardi di parametri. Costruito con un modello di linguaggio da 8,4 miliardi di parametri e un codificatore visivo da 0,4 miliardi, occupa 12 GB di VRAM in FP8 e presenta un meccanismo di attenzione a finestre scorrevoli alternate per un'inferenza più rapida ed efficiente in termini di memoria. Condivide le stesse funzionalità visive, multilingue, di IA agentica e di chiamata di funzioni del modello da 3B, offrendo al contempo prestazioni superiori di ragionamento e generazione.
SageMaker JumpStart consente ai clienti di distribuire uno qualsiasi di questi modelli con pochi clic per rispondere a specifici casi d'uso di IA.
Per iniziare, accedi al catalogo modelli di SageMaker JumpStart nella console SageMaker oppure utilizza l'SDK SageMaker Python per distribuire i modelli nell'account AWS. Per ulteriori informazioni sulla distribuzione e l'utilizzo dei modelli di fondazione in SageMaker JumpStart, consulta la documentazione di Amazon SageMaker JumpStart.