AWS Neuron SDK 2.29.0 متوفر الآن مع خروج NKI وNeuron Explorer من المرحلة التجريبية، ومحاكي جديد لوحدة المعالجة المركزية، ومكتبة NKI موسعة
في هذا الإصدار، تعمل AWS Neuron SDK 2.29.0 على ترقية واجهة Kernel العصبية (NKI) من الإصدار التجريبي إلى المستقر مع الإصدار 0.3.0. تمنح NKI المطورين وصولاً مباشرًا للبرمجة منخفضة المستوى إلى AWS Trainium وAWS Inferentia NeuronCores باستخدام صيغة تستند إلى Python. يقدم هذا الإصدار مكتبة NKI القياسية، والتي تتيح للمطورين رؤية التعليمات البرمجية المصدرية لجميع واجهات برمجة تطبيقات NKI وكائنات اللغة الأصلية. يحتوي أيضًا على محاكي وحدة المعالجة المركزية الجديد الذي يتيح للمطورين كتابة واختبار وتصحيح نواة NKI محليًا على وحدة المعالجة المركزية القياسية، دون الحاجة إلى أجهزة Trainium، باستخدام أدوات تصحيح أخطاء Python القياسية. يضيف NKI 0.3.0 أيضًا ميزات جديدة على مستوى ISA بما في ذلك التعليمات الأسية المخصصة، والتحكم في تراكم matmul، وإعدادات أولوية DMA لـ Trn3، وعمليات الجمع ذات الطول المتغير الشامل للجميع.
تتوسع مكتبة NKI مع 7 نوى تجريبية جديدة تغطي Conv1D، ونواة ضخمة لتوليد الرموز في نماذج محوِّل متعدد الطبقات، وعناصر أساسية مدمجة للحوسبة والاتصال مخصصة لـ Trainium2، وعمليات التبليط الديناميكية. تتلقى النواة الحالية أيضًا تحسينات. يتوسع نطاق Attention CTE إلى أحجام دُفعات وأطوال تسلسل أكبر، ويضيف MLP مسارات القياس الكمي ذات الدقة المختلطة، ويقدم MoE TKG خوارزمية ديناميكية تضم جميع الخبراء.
للاستدلال، يعمل NxD Inference على تحسين دعم نماذج اللغة والرؤية مع تحسينات لـ Qwen3 VL وQwen2 VL، بما في ذلك توازي التسلسل للنماذج النصية وتوازي بيانات الرؤية. وتم تحديث مكون vLLM Neuron الإضافي إلى الإصدار 0.5.0.
ينتقل Neuron Explorer، وهو مجموعة أدوات تحليل الأداء وتصحيح الأخطاء من Neuron، أيضًا من الإصدار التجريبي إلى المستقر. يدعم System Trace Viewer الآن المجموعة الكاملة من أدوات الأجهزة لتحليل الأداء عبر أجهزة متعددة، وأصبحت الأداة متاحة في VS Code Extension Marketplace للتثبيت المبسط. للحصول على تفاصيل الإصدار الكاملة، راجع ملاحظات إصدار AWS Neuron SDK 2.29.0.
تتوفر SDK في جميع مناطق AWS التي تدعم مثيلات Inferentia وTrainium.
تعرّف على المزيد: