تدعم Amazon ECS الآن مشاركة وحدة معالجة الرسومات مع خدمة NVIDIA متعددة العمليات (MPS)
تدعم خدمة Amazon Elastic Container Service (Amazon ECS) الآن مشاركة وحدة معالجة الرسومات مع خدمة NVIDIA متعددة العمليات (MPS)، مما يتيح لك تشغيل العديد من مهام Amazon ECS بشكل متزامن على وحدة معالجة رسومات NVIDIA واحدة. تساعدك مشاركة وحدة معالجة الرسومات على زيادة استخدام وحدة معالجة الرسومات وتقليل تكاليف البنية التحتية لأعباء العمل التي تستخدم جزءًا فقط من سعة وحدة معالجة الرسومات، مثل استدلال النماذج الصغيرة ومحاكاة AV/ADAS وتوليد التضمين وخدمة النماذج المتعددة.
من خلال مشاركة GPU، يمكنك حزم المزيد من أعباء العمل على كل مثيل GPU دون تغيير رمز التطبيق الخاص بك. يمكنك تحديد ذاكرة GPU التي تحتاجها كل حاوية ويمكنك اختياريًا تعيين الحد الأقصى لحصة حساب GPU، وتضع Amazon ECS المهام على وحدات معالجة الرسومات ذات السعة المتاحة مع توسيع نطاق خدماتك ونشرها. يتم دعم مشاركة وحدة معالجة الرسومات على مثيلات Amazon ECS المُدارة وAmazon ECS على Amazon EC2. في مثيلات Amazon ECS المُدارة، تراقب Amazon ECS أيضًا البرنامج الخفي للتحكم في MPS الذي يتيح المشاركة على كل مثيل. إذا توقف البرنامج الخفي أو أصبح غير سليم، فإن Amazon ECS يستبدل المثيل تلقائيًا وينقل مهامك إلى سعة سليمة، بحيث تستمر أعباء عمل وحدة معالجة الرسومات الخاصة بك في العمل دون تدخل يدوي.
للبدء، استخدم وحدة إدارة تحكم AWS أو AWS CLI أو AWS SDK أو AWS CloudFormation أو غيرها من أدوات البنية التحتية كرموز لإنشاء موفر سعة مع مثيلات NVIDIA GPU وتعيين استراتيجية مشاركة وحدة معالجة الرسومات والذاكرة في تعريف الحاوية لتعريف المهمة وإنشاء خدمة على مزود السعة هذا. تتوفر هذه الإمكانية في جميع مناطق AWS التجارية وAWS GovCloud (الولايات المتحدة). لمعرفة المزيد، تفضل بزيارة وثائق مشاركة وحدة معالجة الرسومات الخاصة بـ Amazon ECS.