Modelle Ministral-3-3B-Instruct-2512 und Ministral-3-8B-Instruct-2512 jetzt auf Amazon SageMaker JumpStart verfügbar
Die Modelle Ministral-3-3B-Instruct-2512 und Ministral-3-8B-Instruct-2512 von Mistral AI sind jetzt auf Amazon SageMaker JumpStart verfügbar und erweitern damit das Portfolio der Foundation-Modelle, die AWS-Kunden zur Verfügung stehen. Diese beiden Modelle der Ministral 3-Familie bieten kompakte, bildverarbeitungsfähige Sprachmodelle, die speziell für Edge-Bereitstellungen und Umgebungen mit eingeschränkten Ressourcen entwickelt wurden und es Kunden ermöglichen, leistungsstarke, skalierbare KI-Lösungen auf der AWS-Infrastruktur bereitzustellen.
Diese Modelle adressieren verschiedene Herausforderungen an Unternehmens-KI mit speziellen Funktionen:
Ministral-3-3B-Instruct-2512 wurde für den ultraleichten Edge-Einsatz mit multimodalem Verständnis entwickelt. Es besteht aus einem 3,4B-Sprachmodell und einem 0,4B-Vision-Encoder und passt in FP8 in nur 8 GB VRAM und unterstützt gleichzeitig ein 256K-Token-Kontextfenster. Es bietet Sehanalysen, mehrsprachige Anweisungen in Dutzenden von Sprachen (darunter Englisch, Französisch, Spanisch, Deutsch, Chinesisch, Japanisch, Koreanisch und Arabisch), eine strikte Einhaltung der System-Prompts und native Funktionsaufrufe mit strukturierter JSON-Ausgabe – alles unter der Apache 2.0-Lizenz.
Ministral-3-8B-Instruct-2512 bietet erstklassige Funktionen, die mit dem größeren Mistral Small 3.2 24B-Gegenstück in einem kompakten 8B-Formfaktor vergleichbar sind. Es wurde mit einem 8,4B-Sprachmodell und einem 0,4B-Vision-Encoder ausgestattet, passt in FP8 in 12 GB VRAM und verfügt über ein verschachteltes Aufmerksamkeitsmuster mit Schiebefenster für schnellere, speichereffiziente Inferenzen. Es hat die gleiche Vision, Mehrsprachigkeit, Agentenfunktionen und Funktionen wie sein 3B-Schwestermodell und bietet gleichzeitig eine bessere Denk- und Generationsleistung.
Mit SageMaker JumpStart können Kunden jedes dieser Modelle mit nur wenigen Klicks für ihre spezifischen KI-Anwendungsfälle bereitstellen.
Um mit diesen Modellen zu beginnen, navigieren Sie in der SageMaker-Konsole zum SageMaker JumpStart-Modellkatalog oder nutzen Sie das SageMaker-Python-SDK, um die Modelle in Ihrem AWS-Konto bereitzustellen. Weitere Informationen zur Bereitstellung und Verwendung von Foundation-Modellen in SageMaker JumpStart finden Sie in der Dokumentation zu Amazon SageMaker JumpStart.