Ministral-3-3B-Instruct-2512 ve Ministral-3-8B-Instruct-2512 modelleri Amazon SageMaker JumpStart'ta kullanıma sunuldu
Mistral AI'nin Ministral-3-3B-Instruct-2512 ve Ministral-3-8B-Instruct-2512 modelleri artık Amazon SageMaker JumpStart'ta mevcut ve AWS müşterilerinin kullanabileceği temel modelleri portföyünü genişletiyor. Ministral 3 ailesinin bu iki modeli, müşterilerin AWS altyapısında yüksek performanslı, ölçeklenebilir yapay zeka çözümlerini dağıtmalarına olanak tanıyan uç dağıtım ve kaynak kısıtlı ortamlar için özel olarak oluşturulmuş kompakt, vizyon özellikli dil modelleri sunar.
Bu modeller, farklı kurumsal yapay zeka zorluklarını özel özelliklerle ele alır:
Ministral-3-3B-Instruct-2512, çok modlu anlayışla ultra hafif uç dağıtımı için tasarlanmıştır. 3.4B dil modeli ve 0.4B görüş kodlayıcısı içeren bu cihaz, 256K belirteçli bağlam penceresini desteklerken FP8'de sadece 8 GB VRAM'a sığar. Apache 2.0 lisansı altında görüş analizi, düzinelerce dilde (İngilizce, Fransızca, İspanyolca, Almanca, Çince, Japonca, Korece ve Arapça dahil) çok dilli eğitim, güçlü sistem istemine uyma ve yapılandırılmış JSON çıktısı ile yerel işlev çağrısı sunar.
Ministral-3-8B-Instruct-2512, kompakt 8B form faktöründe daha büyük Mistral Small 3.2 24B muadiline göre sınıfının öncüsü yetenekler sunar. 8.4B dil modeli ve 0.4B görüntü kodlayıcı ile oluşturulmuş, FP8'de 12 GB VRAM'a sığar ve daha hızlı, bellek açısından verimli çıkarım için iç içe geçmiş kayan pencere dikkat modeline sahiptir. Daha güçlü akıl yürütme ve üretim performansı sunarken 3B kardeşi ile aynı vizyonu, çok dilli, ajans ve işlev arama yeteneklerini paylaşır.
Müşteriler, SageMaker JumpStart ile belirli yapay zeka kullanım ihtiyaçları için bu modellerden herhangi birini yalnızca birkaç tıklamayla devreye alabilirler.
Bu modelleri kullanmaya başlamak için SageMaker konsolunda SageMaker JumpStart model kataloğuna gidin veya modelleri AWS hesabınıza dağıtmak için SageMaker Python SDK'sini kullanın. SageMaker JumpStart'ta temel model dağıtma ve kullanma hakkında daha fazla bilgi için Amazon SageMaker JumpStart belgelerine bakın.