تدعم Amazon SageMaker HyperPod الآن وحدة معالجة الرسومات متعددة المثيلات (MIG) من NVIDIA لمهام الذكاء الاصطناعي المولّد
تدعم الآن Amazon SageMaker HyperPod تقنية وحدة معالجة الرسومات متعددة المثيلات (MIG) من NVIDIA، مما يمكّن المسؤولين من تقسيم وحدة معالجة رسومات واحدة إلى عدة وحدات معالجة رسومات معزولة. تسمح هذه الإمكانية للمسؤولين بزيادة استخدام الموارد إلى أقصى حد من خلال تشغيل مهام الذكاء الاصطناعي المولّد (GenAI) الصغيرة والمتنوعة في وقت واحد على أقسام GPU مع الحفاظ على الأداء وعزل المهام.
يمكن للمسؤولين اختيار إما إعداد التكوين سهل الاستخدام على وحدة تحكم SageMaker HyperPod أو نهج الإعداد المخصص لتمكين الموارد الدقيقة والمعزولة عن الأجهزة لمتطلبات المهام المحددة التي لا تتطلب سعة وحدة معالجة الرسومات الكاملة. يمكنهم أيضًا تخصيص حصة الحوسبة لضمان التوزيع العادل والفعال لأقسام GPU عبر الفرق. من خلال مقاييس الأداء في الوقت الفعلي ولوحة معلومات مراقبة استخدام الموارد عبر أقسام وحدة معالجة الرسومات، يكتسب المسؤولون الرؤية لتحسين تخصيص الموارد. يستطيع علماء البيانات الآن تسريع وقت الوصول إلى السوق من خلال جدولة مهام الاستدلال خفيفة الوزن وتشغيل دفاتر الملاحظات التفاعلية بالتوازي على أقسام وحدة معالجة الرسومات، مما يلغي أوقات الانتظار لتوافر وحدة معالجة الرسومات بالكامل.
تتوفر هذه الإمكانية حاليًا لكتل Amazon SageMaker HyperPod باستخدام القائم على التكوين والتنسيق والإدارة المؤتمتة لدى EKS عبر مناطق AWS التالية: غرب الولايات المتحدة (أوريجون) وشرق الولايات المتحدة (شمال فرجينيا) وشرق الولايات المتحدة (أوهايو) وغرب الولايات المتحدة (شمال كاليفورنيا) وكندا (الوسطى) وأمريكا الجنوبية (ساو باولو) وأوروبا (ستوكهولم) وأوروبا (إسبانيا) وأوروبا (أيرلندا) وأوروبا (فرانكفورت) وأوروبا (لندن) وآسيا والمحيط الهادئ (مومباي) وآسيا والمحيط الهادئ (جاكرتا) وآسيا والمحيط الهادئ (ملبورن) وآسيا والمحيط الهادئ (طوكيو) وآسيا والمحيط الهادئ (سيدني) وآسيا والمحيط الهادئ (سول) وآسيا والمحيط الهادئ (سنغافورة).
لمعرفة المزيد، تفضل بزيارة صفحة ويب SageMaker HyperPod ووثائق SageMaker HyperPod.