تتوفر مثيلات Amazon EC2 Trn2 بشكل عام
أعلنت AWS اليوم عن التوفر العام لمثيلات Amazon Elastic Compute Cloud (Amazon EC2) Trn2 ومعاينة Trn2 UltraServers، المدعومة بشرائح AWS Trainium2. تعد مثيلات Trn2 وUltraServers، المتوفرة عبر كتل سعة EC2، أقوى حلول حوسبة EC2 للتعلم العميق والتدريب والاستدلال على الذكاء الاصطناعي المولّد.
يمكنك استخدام مثيلات Trn2 لتدريب ونشر النماذج الأساسية الأكثر تطلبًا بما في ذلك نماذج اللغات الكبيرة (LLMs) والنماذج متعددة الوسائط ومحوّلات الانتشار والمزيد لبناء مجموعة واسعة من تطبيقات الذكاء الاصطناعي. لتقليل أوقات التدريب وتوفير أوقات استجابة فائقة (وقت استجابة لكل رمز مميز) للنماذج الأكثر قدرة وحداثة، قد تحتاج إلى المزيد من الحوسبة والذاكرة أكثر مما يمكن أن يقدمه مثيل واحد. Trn2 UltraServers هو عرض EC2 جديد تمامًا يستخدم NeuronLink، وهو نسيج ذو عرض شبكة عالي وزمن انتقال منخفض، لتوصيل 64 شريحة Trainium2 عبر 4 مثيلات Trn2 في عقدة واحدة مما يوفر أداءً لا مثيل له. للاستدلال، تساعد UltraServers في توفير أوقات استجابة رائدة في الصناعة لإنشاء أفضل التجارب في الوقت الفعلي. بالنسبة للتدريب، تعمل UltraServers على تعزيز سرعة نموذج التدريب وكفاءته من خلال الاتصال الجماعي الأسرع لتوازي النموذج مقارنة بالحالات المستقلة.
تتميز مثيلات Trn2 بـ 16 شريحة Trainium2 لتوفير ما يصل إلى 20.8 بيتافلوب من حوسبة FP8 وذاكرة ذات عرض شبكة عالي 1.5 تيرابايت مع 46 تيرابايت/ثانية من عرض الشبكة للذاكرة و 3.2 تيرابايت من شبكات EFA. تتميز Trn2 UltraServers بـ 64 شريحة Trainium2 لتوفير ما يصل إلى 83.2 بيتافلوب من حوسبة FP8 و 6 تيرابايت من إجمالي ذاكرة نطاق الشبكة العالي مع 185 تيرابايت/ثانية من إجمالي عرض الشبكة للذاكرة و 12.8 تيرابايت من شبكات EFA. يتم نشر كلاهما في EC2 UltraClusters لتوفير إمكانيات التوسع غير الحظرية بمقياس بيتابت للتدريب الموزع. تتوفر مثيلات Trn2 عمومًا بحجم trn2.48x الكبير في شرق الولايات المتحدة (أوهايو) منطقة AWS من خلال EC2 Capacity Blocks لـ ML.
لمعرفة المزيد حول مثيلات Trn2 وطلب الوصول إلى Trn2 UltraServers، يُرجى زيارة صفحة مثيلات Trn2.