نماذج GLM-5.2 FP8، وNVIDIA-Nemotron-Nano-12B-v2، وGLM-OCR متاحة الآن على Amazon SageMaker JumpStart
يتوفر الآن نموذج GLM-5.2 FP8 من Z.ai، ونموذج Nemotron-nano-12B-v2 من NVIDIA، ونموذج GLM-OCR من Z.ai على Amazon SageMaker JumpStart، مما يوسع مجموعة نماذج التأسيس المتاحة لعملاء AWS. توفر هذه النماذج الثلاثة إمكانات متخصصة تشمل هندسة الوكلاء ذات الأفق الطويل، والاستدلال الهجين الفعال، والفهم المتقدم للوثائق، مما يمكّن العملاء من نشر حلول الذكاء الاصطناعي عالية الأداء والقابلة للتوسع على البنية التحتية لـ AWS.
تم تحسين GLM-5.2 FP8 للمهام ذات الأفق الطويل وسير عمل هندسة الوكلاء مثل تطوير الدورة الكاملة للبرمجيات من المتطلبات إلى النشر. ويقدم قفزة كبيرة في قدرات المهام ذات الأفق الطويل مقارنة بسلفه GLM-5.1، ولأول مرة يوفر نافذة سياق بحجم مليون رمز قابلة للاستخدام فعليًا، مما يمكّنه من التعامل مع السياق الهندسي على مستوى المشروع، وتنفيذ المهام طويلة التشغيل بشكل موثوق، واتباع المعايير الهندسية باستمرار، وإكمال سير عمل التطوير الكامل في مهمة واحدة.
يتفوق Nvidia-Nemotron-nano-12B-v2 في مهام الاستدلال والمهام غير المعتمدة على الاستدلال الموحدة مع معدل نقل استدلال مرتفع، مما يجعله مثاليًا لتطبيقات المؤسسات التي تتطلب الدقة والكفاءة. ويستخدم بنية هجينة تجمع بين Mamba-2 وTransformer بطول سياق يبلغ 128K، مما يؤدي إلى توليد مسارات استدلال قبل الوصول إلى الاستجابات النهائية. يحقق تصميم المعلمة الصغير المكون من 12 مليار دقة مماثلة أو أفضل من نماذج مفتوحة رائدة مع توفير معدل نقل استدلال أعلى يصل إلى 6 أضعاف.
يوفر GLM-OCR فهمًا دقيقًا وسريعًا وشاملًا للمستندات للمواد المعقدة في العالم الحقيقي بما في ذلك ملفات PDF الممسوحة ضوئيًا والملاحظات المكتوبة بخط اليد والأوراق الأكاديمية الكثيفة التي تحتوي على معادلات والجداول متعددة الأعمدة ووثائق التعليمات البرمجية والنصوص متعددة اللغات. يعمل هذا النموذج متعدد الوسائط المكون من 0.9 مليار معلمة على إعادة بناء البنية والجداول والمعادلات إلى Markdown أو JSON أو LaTeX نظيف، مع وقت استجابة منخفض بما يكفي للخدمات في الوقت الفعلي والأجهزة في إطار حوسبة الحافة، مما يجعله مثاليًا لمعالجة المستندات على نطاق واسع وعمليات سير عمل استخراج الفواتير.
من خلال SageMaker JumpStart، يمكن للعملاء نشر أي من هذه النماذج ببضع نقرات فقط لمعالجة حالات استخدام الذكاء الاصطناعي المحددة لديهم.
للبدء في استخدام هذه النماذج، انتقل إلى كتالوج نموذج SageMaker JumpStart في وحدة تحكم SageMaker أو استخدم SageMaker Python SDK لنشر النماذج في حساب AWS الخاص بك. لمزيد من المعلومات حول نشر نماذج التأسيس واستخدامها في SageMaker JumpStart، راجع وثائق Amazon SageMaker JumpStart.