Доступны модели Ministral-3-3B-Instruct-2512 и Ministral-3-8B-Instruct-2512 в Amazon SageMaker JumpStart
В компоненте Amazon SageMaker JumpStart теперь доступны модели Ministral-3-3B-Instruct-2512 и Ministral-3-8B-Instruct-2512 от Mistral AI, что расширяет портфель базовых моделей, предлагаемых клиентам AWS. Эти две модели семейства Ministral 3 представляют собой компактные языковые модели с поддержкой машинного зрения, специально разработанные для развертывания на краевых устройствах и сред с ограниченными ресурсами, что позволяет клиентам развертывать высокопроизводительные и масштабируемые решения искусственного интеллекта в инфраструктуре AWS.
Специализированные возможности этих моделей предназначены для решения различных задач корпоративного ИИ.
Ministral-3-3B-Instruct-2512 разработана для сверхэкономичного развертывания на краевых устройствах с возможностями мультимодального анализа. Она состоит из языковой модели с 3,4 млрд параметров и кодировщика компьютерного зрения с 0,4 млрд параметров, вмещаясь всего в 8 ГБ видеопамяти с применением формата FP8 и поддерживая контекстное окно в 256 тыс. токенов. Она поддерживает анализ на основе компьютерного зрения, выполнение инструкций на множестве языков (включая английский, французский, испанский, немецкий, китайский, японский, корейский и арабский), строгое соблюдение системных промптов, а также встроенный вызов функций со структурированным выводом JSON – и все это по лицензии Apache 2.0.
Модель Ministral-3-8B-Instruct-2512 обладает возможностями передового класса, сопоставимыми с ее более крупным аналогом Mistral-Small-3.2-24B, при этом имея более компактный форм-фактор с 8 млрд параметров. В нее встроена языковая модель с 8,4 млрд параметров и кодировщик компьютерного зрения с 0,4 млрд параметров. Она вмещается в 12 ГБ видеопамяти с применением формата FP8 и поддерживает схему чередующегося окна внимания для более быстрого логического вывода с экономией памяти. Модель обладает теми же возможностями компьютерного зрения, поддержки множества языков, использования агентов и вызова функций, что и ее аналог с 3 млрд параметров, но обеспечивает более эффективные логические рассуждения и генерацию контента.
Используя SageMaker JumpStart, клиенты могут развернуть любую из этих моделей всего несколькими щелчками мыши для своих примеров использования искусственного интеллекта.
Чтобы начать работу с этими моделями, откройте каталог моделей SageMaker JumpStart в консоли SageMaker или воспользуйтесь пакетом средств разработки ПО (SDK) SageMaker для Python, чтобы развернуть модели в своем аккаунте AWS. Подробные инструкции о развертывании и использовании базовых моделей в SageMaker JumpStart см. в документации Amazon SageMaker JumpStart.