تتوفر ميزة توصيات الاستدلال للذكاء الاصطناعي المولّد لـ Amazon SageMaker الآن في SageMaker AI Studio
يقدم Amazon SageMaker AI الآن توصيات استدلال للذكاء الاصطناعي المولّد في SageMaker AI Studio، مما يمنح العملاء مسارًا موجهًا ومنخفض التعليمات البرمجية وبدون تعليمات برمجية للعثور على أفضل تكوين للاستدلال لعبء العمل لديهم. ويعتمد هذا على الإطلاق المستند إلى واجهة برمجة التطبيقات في أبريل 2026، مما يوسع نفس البنية التحتية المعيارية للفرق التي تفضِّل سير العمل المرئي على الوصول البرمجي.
يتطلب نشر نماذج الذكاء الاصطناعي المولّد في الإنتاج العثور على المزيج الصحيح من نوع المثيل وحاوية الخدمة واستراتيجية التحسين. وعادةً ما يتطلب القيام بذلك بشكل صحيح أسابيع من القياس المعياري اليدوي وضبط التكوين والتجربة والخطأ، مع عدم وجود أي طريقة سهلة لمعرفة ما إذا كان الإعداد النهائي هو الأمثل بالفعل. من خلال التجربة الجديدة، يصف العملاء عبء العمل الخاص بهم والأشياء الأكثر أهمية، سواء كان ذلك وقت الاستجابة أو معدل النقل أو التكلفة، ويقوم SageMaker AI بالباقي. فهو يقيس التكوينات المتعددة على البنية التحتية الحقيقية لوحدة معالجة الرسومات باستخدام NVIDIA AIPerf، ويطبِّق الأساليب المتوافقة مع الهدف مثل فك التشفير التخميني لمعدل النقل أو ضبط النواة لوقت الاستجابة، ويعيد توصيات مرتبة وجاهزة للإنتاج مع بيانات الأداء التي تم قياسها. وتصل الفرق إلى تكوين تم التحقق منه في ساعات بدلًا من أسابيع، دون الحاجة إلى تحديد الأساليب التي سيتم تطبيقها أو كيفية تكوينها.
من خلال التجربة الجديدة، يصف العملاء عبء العمل الخاص بهم والأشياء الأكثر أهمية، سواء كان ذلك وقت الاستجابة أو معدل النقل أو التكلفة، ويقوم SageMaker AI بالباقي. فهو يقيس التكوينات المتعددة على البنية التحتية الحقيقية لوحدة معالجة الرسومات باستخدام NVIDIA AIPerf، ويطبِّق الأساليب المتوافقة مع الهدف مثل فك التشفير التخميني لمعدل النقل أو ضبط النواة لوقت الاستجابة، ويعيد توصيات مرتبة وجاهزة للإنتاج مع بيانات الأداء التي تم قياسها. وتصل الفرق إلى تكوين تم التحقق منه في ساعات بدلًا من أسابيع، دون الحاجة إلى تحديد الأساليب التي سيتم تطبيقها أو كيفية تكوينها.
في SageMaker AI Studio ضمن الوظائف أو تحسين الاستدلال، يختار العملاء ملف تعريف حالة استخدام (التفاعل أو الإنشاء أو التلخيص أو التخصيص)، ويختارون هدف التحسين (تقليل وقت الاستجابة، أو زيادة معدل النقل إلى الحد الأقصى، أو تقليل التكلفة إلى الحد الأدنى)، ويختارون نموذجهم من JumpStart أو S3 أو سجل النماذج أو نموذج SageMaker الحالي. يتم تصنيف التوصيات حسب TTFT ووقت الاستجابة بين الرموز ومعدل النقل والتكلفة، ويمكن مقارنتها بصريًا قبل النشر إلى نقطة نهاية SageMaker في الوقت الفعلي مباشرةً من Studio.
لا توجد أي تكلفة إضافية لإنشاء التوصيات. تنطبق تكاليف الحوسبة القياسية على وظائف التحسين ونقاط النهاية التي يتم توفيرها أثناء القياس المعياري. تتوفر هذه الإمكانية في شرق الولايات المتحدة (فرجينيا الشمالية)، غرب الولايات المتحدة (أوريجون)، شرق الولايات المتحدة (أوهايو)، أوروبا (أيرلندا)، أوروبا (فرانكفورت)، آسيا والمحيط الهادئ (سنغافورة)، آسيا والمحيط الهادئ (طوكيو). لمعرفة المزيد، تفضل بزيارة منشور المدونة أو الوثائق.