تتوفر الآن NVIDIA Nemotron 3 Nano على Amazon Bedrock
تدعم Amazon Bedrock الآن نموذج NVIDIA Nemotron 3 Nano 30B A3B، وهو أحدث إنجازات NVIDIA في نمذجة اللغة الفعالة التي توفر أداءً منطقيًا عاليًا ودعمًا لاستدعاء الأدوات الأصلية ومعالجة السياق الموسعة مع نافذة سياق الرمز المميز بسعة 256 ألف. يستخدم هذا النموذج بنية مختلطة فعالة من مزيج الخبراء (MoE) لضمان معدل نقل أعلى من سابقاتها لأعباء العمل المستقلة وأعباء عمل الترميز، مع الحفاظ على عمق التفكير لنموذج أكبر. بفضل ضوابط التفكير الواضحة والدقة العالية التي تمكّنها تقنيات التعلم المعزز المتقدمة والتدريب اللاحق متعدد البيئات على نطاق واسع، يعد هذا النموذج مثاليًا للمؤسسات والشركات الناشئة والمطورين الأفراد الذين يقومون ببناء تدفقات عمل متعددة الوكلاء وأدوات إنتاجية المطورين وأتمتة العمليات وتحليل التفكير العلمي والرياضي، من بين أمور أخرى.
يتم تشغيل NVIDIA Nemotron 3 Nano على Amazon Bedrock بواسطة Project Mantle، وهو محرك استدلال موزع جديد لنموذج تعلّم الآلة واسع النطاق الذي يعمل على Amazon Bedrock. يُبسّط Project Mantle ويسرّع عملية إدخال النماذج الجديدة على Amazon Bedrock، ويوفر استدلالاً خاليًا من الخوادم عالي الأداء وموثوقًا به مع ضوابط متطورة لجودة الخدمة، ويفتح حصص عملاء افتراضية أعلى مع إدارة السعة الآلية والمجمعات الموحدة، ويوفر توافقًا جاهزًا مع مواصفات OpenAI API.
تتوفر NVIDIA Nemotron 3 Nano اليوم على Amazon Bedrock في مناطق AWS في شرق الولايات المتحدة (فرجينيا الشمالية) وشرق الولايات المتحدة (أوهايو) وغرب الولايات المتحدة (أوريجون) وآسيا والمحيط الهادئ (طوكيو) وآسيا والمحيط الهادئ (مومباي) وأمريكا الجنوبية (ساو باولو) وأوروبا (لندن) وأوروبا (ميلان)، وتدعم نقاط نهاية الخدمة الموحدة والمتوافقة مع OpenAI API على Amazon Bedrock. لمعرفة المزيد والبدء، تفضل بزيارة وحدة تحكم Amazon Bedrock أو وثائق الخدمة هنا. للبدء باستخدام نقاط نهاية الخدمة المتوافقة مع Amazon Bedrock OpenAI API، تفضل بزيارة الوثائق هنا.