نموذج NVIDIA Nemotron 3.5 Lightning متاح الآن على Amazon SageMaker JumpStart
يتوفر نموذج Nemotron 3.5 Lightning من NVIDIA الآن على Amazon SageMaker JumpStart، مما يتيح لعملاء AWS إمكانية الوصول إلى أسرع نموذج مفتوح في فئته لأعباء عمل الوكلاء المستمرة وتنفيذ المهام بسرعة.
تم تصميم Nemotron 3.5 Lightning للوكلاء الدائمين وأتمتة المؤسسات عالية معدل النقل عبر مجالات تشمل المساعدين الشخصيين ومعالجة المستندات المالية وفرز الأمن السيبراني وعمليات الاتصالات. تم تصميمه على بنية هجينة من الخبراء (MoE) تضم إجمالي 30 مليار معلمة مع تفعيل 3 مليار معلمة فقط لكل تمريره أمامية، ويحقق ما يصل إلى 4 أضعاف معدل النقل (~ 410 رمزًا في الثانية) وإكمالًا للمهام أسرع بنسبة 30٪ مقارنة بالنماذج المماثلة. تم تقطيره من Nemotron 3 Ultra، وهو يتعامل مع ما يصل إلى مليون رمز من السياق عبر فك التشفير التخميني لـ dFlash ويتكامل مباشرة مع أُطر تشغيل الوكلاء الشائعة. تم تدريب النموذج بشكل مفتوح بالكامل على مجموعات البيانات المفتوحة مما يسمح للمؤسسات بالتدريب اللاحق باستخدام أدواتها وسير العمل والسياسات الخاصة بها ونشره بملكية كاملة عبر البنية التحتية الطرفية أو المحلية أو السحابية.
من خلال SageMaker JumpStart، يمكن للعملاء نشر هذا النموذج ببضع نقرات لتشغيل أعباء عمل الذكاء الاصطناعي الخاصة بهم.
للبدء في استخدام هذه النماذج، انتقل إلى كتالوج نموذج SageMaker JumpStart في وحدة تحكم SageMaker أو استخدم SageMaker Python SDK لنشر النماذج في حساب AWS الخاص بك. لمزيد من المعلومات حول نشر نماذج التأسيس واستخدامها في SageMaker JumpStart، راجع وثائق Amazon SageMaker JumpStart.