يدعم Amazon SageMaker HyperPod الآن القياس التلقائي باستخدام Karpenter
يدعم Amazon SageMaker HyperPod الآن القياس التلقائي للعقدة المُدارة باستخدام Karpenter، مما يمكن العملاء من توسيع كتلهم تلقائيًا لتلبية متطلبات الاستدلال والتدريب الديناميكي. تتطلب أعباء عمل الاستدلال في الوقت الفعلي للتحديد التلقائي لنطاق التطبيق لمعالجة أنماط الزيارات غير المتوقعة والحفاظ على اتفاقيات مستوى الخدمة، مع تحسين التكاليف. ومع ذلك، غالبًا ما تعاني المؤسسات من العبء التشغيلي لتثبيت حلول القياس التلقائي المعقدة وتكوينها وصيانتها. يزيل القياس التلقائي للعقدة المُدار بواسطة HyperPod العبء الثقيل غير المتمايز لإعداد Karpenter وصيانته، مع توفير المرونة المتكاملة وقدرات تحمل الأعطال.
يتيح القياس التلقائي على HyperPod مع Karpenter للعملاء تحقيق التزويد في الوقت المناسب الذي يتكيف بسرعة مع حساب GPU للاستدلال على ارتفاع الزيارات. يمكن للعملاء التوسع إلى صفر عقدة خلال فترات انخفاض الطلب دون الحفاظ على البنية التحتية المخصصة لوحدة التحكم والاستفادة من اختيار العقدة المدركة لأعباء العمل الذي يعمل على تحسين أنواع المثيلات والتكاليف. بالنسبة لأعباء العمل الاستدلالية، يوفر ذلك تحجيمًا تلقائيًا للسعة للتعامل مع انفجارات حركة الإنتاج، وخفض التكلفة من خلال الدمج الذكي للعقدة أثناء فترات الخمول، والتكامل السلس مع أجهزة القياس التلقائي للجراب التي تعتمد على الأحداث مثل KEDA. تستفيد أعباء العمل التدريبية أيضًا من التحسين التلقائي للموارد أثناء دورات تطوير النموذج. يمكنك تمكين القياس التلقائي على HyperPod باستخدام واجهة برمجة تطبيقات UpdateCluster مع ضبط وضع القياس التلقائي على "تمكين" وتعيين AutoScalerType على "Karpenter".
تتوفر هذه الميزة في جميع مناطق AWS حيث يتم دعم كتل Amazon SageMaker HyperPod EKS. لمعرفة المزيد حول القياس التلقائي على SageMaker HyperPod باستخدام Karpenter، راجع دليل المستخدم والمدونة.