تتوفر الآن نماذج Gemma-4-31B-it-assistant وGemma-4-31B-IT-NVFP4 على Amazon SageMaker JumpStart
تتوفر الآن نماذج Gemma-4-31B-it-assistant من Google DeepMind وNVIDIA's Gemma-4-31B-IT-NVFP4 من NVIDIA على Amazon SageMaker JumpStart، مما يوسع مجموعة النماذج الأساسية المتاحة لعملاء AWS. يوفر هذان النموذجان بنية Gemma 4 31B الرئيسية الكثيفة لأعباء عمل المؤسسات في كل من المتغيرات الكمية الدقيقة والمحسّنة، مما يمكّن العملاء من نشر حلول الذكاء الاصطناعي عالية الأداء والقابلة للتطوير على البنية التحتية لـ AWS.
وتتناول هذه النماذج تحديات الذكاء الاصطناعي المختلفة للمؤسسات بقدرات متخصصة:
تم تصميم Gemma-4-31B-it-assistant من أجل الاستدلال متعدد الوسائط والترميز وسير العمل القائم على الوكلاء باعتباره البديل الذي تم ضبطه بالمساعد لنموذج 31B الرئيسي من Google. يتعامل مع مدخلات النص والصورة (بما في ذلك الفيديو كتسلسلات إطارات) ويولد مخرجات النص، مع نافذة سياق الرمز 256K ودعم لأكثر من 140 لغة. تم تصنيفها في المرتبة #3 بين النماذج المفتوحة على لوحة صدارة نصوص Arena AI — متفوقة على النماذج المنافسة 20 ضعف حجمها — وتتميز بآلية الانتباه المختلطة التي تتداخل مع النافذة المنزلقة المحلية والاهتمام العالمي الكامل مع الوظيفة الأصلية التي تدعو إلى بناء وكلاء مستقلين.
يوفر Gemma-4-31B-IT-NVFP4 نفس إمكانات Gemma 4 31B بجزء بسيط من مساحة الذاكرة. تم قياسه باستخدام إطار عمل ModelOpt من NVIDIA بدقة 4 بت FP4، مما يقلل من استخدام الذاكرة إلى حوالي 18.5 جيجابايت (أصغر بنسبة 68% من الطراز الأساسي) ويحقق استدلالًا أسرع بمقدار 2.5 مرة تقريبًا مع الاحتفاظ بـ 97-99% من جودة النموذج الأصلي. إنه مثالي لعمليات نشر الإنتاج ذات معدل النقل العالي الفعالة من حيث التكلفة على وحدات معالجة الرسومات NVIDIA RTX وDGX Spark ومراكز البيانات.
من خلال SageMaker JumpStart، يمكن للعملاء نشر أي من هذه النماذج ببضع نقرات فقط لمعالجة حالات استخدام الذكاء الاصطناعي المحددة لديهم.
للبدء في استخدام هذه النماذج، انتقل إلى كتالوج نموذج SageMaker JumpStart في وحدة تحكم SageMaker أو استخدم SageMaker Python SDK لنشر النماذج في حساب AWS الخاص بك. لمزيد من المعلومات حول نشر نماذج التأسيس واستخدامها في SageMaker JumpStart، راجع وثائق Amazon SageMaker JumpStart.