Los modelos Ministral-3-3B-Instruct-2512 y Ministral-3-8B-Instruct-2512 ya están disponibles en Amazon SageMaker JumpStart
Los modelos Ministral-3-3B-Instruct-2512 y Ministral-3-8B-Instruct-2512 de Mistral AI ya están disponibles en Amazon SageMaker JumpStart, lo que amplía la cartera de modelos fundacionales disponibles para los clientes de AWS. Estos dos modelos de la familia Ministral 3 ofrecen modelos de lenguaje compactos y con capacidad de visión, diseñados específicamente para su despliegue en la periferia y en entornos con recursos limitados, lo que permite a los clientes implementar soluciones de IA escalables y de alto rendimiento en la infraestructura de AWS.
Estos modelos abordan diferentes desafíos de la IA empresarial con capacidades especializadas:
Ministral-3-3B-Instruct-2512 está diseñado para un despliegue en la periferia ultraligero con una comprensión multimodal. Compuesto por un modelo de lenguaje de 3.4 mil millones y un codificador de visión de 0.4 mil millones, cabe en tan solo 8 GB de VRAM en FP8 y admite una ventana de contexto de 256 mil tokens. Ofrece análisis de imágenes, instrucciones multilingües en docenas de idiomas (incluidos el inglés, el francés, el español, el alemán, el chino, el japonés, el coreano y el árabe), un alto nivel de compatibilidad con las peticiones del sistema y llamadas a características nativas con salida JSON estructurada, todo ello bajo la licencia Apache 2.0.
Ministral-3-8B-Instruct-2512 ofrece capacidades de vanguardia comparables a las de su homólogo más grande, el modelo Mistral Small 3.2 24B, en un formato compacto de 8B. Desarrollado con un modelo de lenguaje de 8.4B y un codificador de visión de 0.4B, cabe en 12 GB de VRAM en FP8 y cuenta con un patrón de atención de ventana deslizante intercalada para una inferencia más rápida y eficiente en cuanto a memoria. Comparte la misma visión y las mismas capacidades multilingües, agenciales y de llamada a características que su versión 3B, al tiempo que ofrece un mayor rendimiento en cuanto a razonamiento y generación.
Con SageMaker JumpStart, los clientes pueden implementar cualquiera de estos modelos con solo unos clics para abordar sus casos de uso específicos de IA.
Para empezar a utilizar estos modelos, navegue hasta el catálogo de modelos JumpStart de SageMaker en la consola de SageMaker o utilice el SDK de Python de SageMaker para implementar los modelos en su cuenta de AWS. Para obtener más información sobre la implementación y el uso de modelos fundacionales en SageMaker JumpStart, consulte la documentación de Amazon SageMaker JumpStart.