الإعلان عن توجيه الدورة الثابتة لاستدلال Amazon SageMaker
نعلن اليوم عن توفر توجيه الدورة الثابتة على استدلال Amazon SageMaker الذي يساعد العملاء على تحسين الأداء وتجربة المستخدم لتطبيقات الذكاء الاصطناعي المولّد الخاصة بهم من خلال الاستفادة من المعلومات التي تمت معالجتها مسبقًا. تُسهِّل Amazon SageMaker نشر نماذج تعلم الآلة (ML) بما في ذلك نماذج التأسيس (FMs) لتقديم طلبات الاستدلال بأفضل سعر وأداء لأي حالة استخدام.
من خلال تمكين الدورات الثابتة، سيتم توجيه جميع الطلبات الخاصة بنفس الجلسة إلى نفس المثيل، مما يسمح لتطبيق تعلّم الآلة الخاص بك بإعادة استخدام المعلومات التي تمت معالجتها مسبقًا لتقليل وقت الاستجابة وتحسين تجربة المستخدم. يعد هذا أمرًا ذا قيمة خاصة عندما يرغب العملاء في استخدام حمولات بيانات كبيرة أو عندما يحتاجون إلى تجارب تفاعلية سلسة. من خلال الاستفادة من طلبات الاستدلال السابقة، يستطيع العملاء الآن الاستفادة من هذه الميزة لبناء تطبيقات الذكاء الاصطناعي المبتكرة المدركة للحالة على SageMaker. للقيام بذلك، سيتعين على العملاء إنشاء رقم جلسة مع طلبهم الأول ثم استخدام رقم الجلسة للإشارة إلى أن SageMaker يجب أن يوجه جميع الطلبات اللاحقة إلى نفس المثيل. يمكن أيضًا حذف الجلسات عند الانتهاء من أجل إتاحة الموارد للجلسات الجديدة.
تتوفر هذه الميزة في جميع المناطق التي يتوفر فيها SageMaker. يمكنك معرفة المزيد حول نشر النماذج على SageMaker هنا والمزيد حول هذه الميزة في وثائقنا.