Qwen3.6-35B-A3B-NVFP4 ve Wan2.1-T2V-1.3B-Diffusers modelleri Amazon SageMaker JumpStart’ta kullanıma sunuldu
NVIDIA'nın QWen3.6-35B-A3b-NVFP4 ve Alibaba'nın Wan2.1-T2V-1.3B-Difusers modelleri artık Amazon SageMaker JumpStart'ta mevcut olup, AWS müşterilerinin kullanabileceği temel modelleri portföyünü genişletiyor. Bu iki model, uzun bağlamlı akıl yürütme ve basit metinden video oluşturma ile temsilci tabanlı kodlamayı kapsayan özel yetenekler sunar ve müşterilerin AWS altyapısında yüksek performanslı, ölçeklenebilir yapay zeka çözümlerini dağıtmasına olanak tanır.
Bu modeller, farklı kurumsal yapay zeka zorluklarını özel özelliklerle ele alır:
Qwen3.6-35b-A3b-NVFP4, Alibaba'nın Qwen3.6-35B-A3 B'nin NVIDIA tarafından nicelenmiş varyantı olarak temsilci tabanlı kodlama, çok modlu akıl yürütme ve uzun bağlamlı anlama işlemleri için optimize edilmiştir. Bu Uzman Karışımı modeli, belirteç başına yalnızca 3B etkinleştirilmiş (256 uzmandan 8'i) toplam 35B parametre içerir ve YARN ölçeklendirmesi yoluyla yaklaşık 1M'ye genişletilebilen 262K belirteçli bağlam penceresini destekler. NVIDIA'nın ModelOpt çerçevesi kullanılarak NVFP4'e uygun nicelendirilen bu model, konuşma dönüşleri, çoklu belirteçli tahmin ve çok adımlı temsilci işlem hatları için araç çağrıları boyunca düşünmeyi korur. Bunların hepsi önemli ölçüde azaltılmış bellek alanı gerektirir.
Wan2.1-T2V-1.3B-Diffuser’ler, tüketici sınıfı donanımda metinden video oluşturmada mükemmeldir. Yeni bir Video Varyasyonlu Otomatik Kodlayıcı (VAE) ile difüzyon transformatörü paradigması üzerine inşa edilen bu 1.3B parametreli model, yalnızca 8.19 GB VRAM gerektirirken metin istemlerinden yüksek kaliteli, fizik açısından tutarlı video klipler oluşturur. RTX 4090'da yaklaşık 4 dakikada 5 saniyelik 480p video oluşturabilir ve bu da onu mevcut en erişilebilir açık kaynaklı video oluşturma modellerinden biri haline getirir.
Müşteriler, SageMaker JumpStart ile belirli yapay zeka kullanım ihtiyaçları için bu modellerden herhangi birini yalnızca birkaç tıklamayla devreye alabilirler.
Bu modelleri kullanmaya başlamak için SageMaker konsolunda SageMaker JumpStart model kataloğuna gidin veya modelleri AWS hesabınıza dağıtmak için SageMaker Python SDK'sini kullanın. SageMaker JumpStart'ta temel model dağıtma ve kullanma hakkında daha fazla bilgi için Amazon SageMaker JumpStart belgelerine bakın.