نماذج langcache-embed-v3-small، وMellum2-12B-A2.5B-Thinking، وLightOnOCR-2-1B متاحة الآن على Amazon SageMaker JumpStart
يتوفر الآن نموذج langcache-embed-v3-small من Redis، ونموذج Mellum2-12B-A2.5B-Thinking من JetBrains، ونموذج LightonOCR-2-1b من LightOn على Amazon SageMaker JumpStart، مما يوسع مجموعة نماذج التأسيس المتاحة لعملاء AWS. توفر هذه النماذج الثلاثة إمكانات متخصصة تشمل تحسين التخزين المؤقت الدلالي والاستدلال الذي يركز على التعليمات البرمجية والتعرف الضوئي على الأحرف للمستندات من البداية إلى النهاية، مما يمكّن العملاء من نشر حلول الذكاء الاصطناعي عالية الأداء والقابلة للتوسع على البنية التحتية لـ AWS.
تم تحسين langcache-embed-v3-small للتخزين المؤقت الدلالي في تطبيقات نموذج اللغة الكبير (LLM). فهو يقوم بتحويل الجمل والفقرات إلى مساحة تشابه دلالي كثيفة مصممة خصيصًا لتحديد الاستعلامات المكافئة دلاليًا بغض النظر عن الصياغة، مما يتيح نتائج ذاكرة التخزين المؤقت الذكية التي تقلل من استدعاءات LLM الزائدة وتسرع أوقات الاستجابة في أعباء عمل الاستدلال ذات الحجم الكبير.
يتفوق Mellum2-12B-A2.5B-Thinking في إنشاء التعليمات البرمجية وتصحيح الأخطاء والاستدلال متعدد الخطوات وسير عمل البرمجة المعتمدة على الوكلاء. ويستخدم بنية Mixture-of-Experts (64 خبيرًا، يتم تنشيط 8 لكل رمز)، حيث يتم تنشيط 2.5 مليار معلمة فقط من إجمالي المعلمات البالغة 12 مليار لكل تمريرة أمامية، مع طول سياق يبلغ 131,072 رمزًا. وهو يُصدر مسارات استدلال واضحة لسلسلة الأفكار قبل الإجابات النهائية، مما يوفر استدلالًا عالي معدل النقل ومنخفض زمن الاستجابة، مثاليًا للتوجيه وRAG والوكلاء الفرعيين وعمليات النشر الخاصة.
يوفر LightonOCR-2-1b تحويلًا شاملاً متعدد اللغات من المستندات إلى النص لملفات PDF والمستندات الممسوحة ضوئيًا والصور دون الحاجة إلى مسارات OCR هشة. يعمل النموذج البصري-اللغوي هذا المكون من 1 مليار معلمة على تحويل صور الصفحات مباشرةً إلى نص نظيف ومرتب بشكل طبيعي، مما يحقق أداءً متطورًا على OLMOCR-bench مع كونه أصغر بمقدار 9 مرات وأسرع بكثير من الأساليب المنافسة.
من خلال SageMaker JumpStart، يمكن للعملاء نشر أي من هذه النماذج ببضع نقرات فقط لمعالجة حالات استخدام الذكاء الاصطناعي المحددة لديهم.
للبدء في استخدام هذه النماذج، انتقل إلى كتالوج نموذج SageMaker JumpStart في وحدة تحكم SageMaker أو استخدم SageMaker Python SDK لنشر النماذج في حساب AWS الخاص بك. لمزيد من المعلومات حول نشر نماذج التأسيس واستخدامها في SageMaker JumpStart، راجع وثائق Amazon SageMaker JumpStart.