استدلال Amazon SageMaker AI يدعم الآن التدفق ثنائي الاتجاه
يدعم الآن استدلال Amazon SageMaker AI التدفق ثنائي الاتجاه لإنشاء نسخة مكتوبة بتحويل الكلام إلى نص في الوقت الفعلي، ويتيح ذلك معالجة الكلام المستمرة بدلًا من إدخال دفعة بيانات. صار بإمكان النماذج الآن استقبال عمليات تدفق صوتي وإرجاع نتائج نصية جزئيًا في الوقت نفسه أثناء حديث المستخدمين، ويتيح ذلك إنشاء وكلاء صوتيين يعالجون الكلام بأقل وقت استجابة.
وعندما يطور العملاء وكلاء صوتيين بالذكاء الاصطناعي، يلزم توفير وظيفة إنشاء نسخ مكتوبة للكلام في الوقت الفعلي لتقليل مدد التأخير بين كلام المستخدم وردود الوكيل. ويحتاج علماء البيانات ومهندسو تعلّم الآلة إلى بنية تحتية مُدارة للتدفق ثنائي الاتجاه، ويستلزم ذلك إنشاء حالات تنفيذ WebSocket مخصصة وإدارة بروتوكولات التدفق. وتقضي الفرق أسابيع في تطوير هذه البنية التحتية وصيانتها بدلًا من التركيز على دقة النموذج وإمكانات الوكيل. وبفضل التدفق ثنائي الاتجاه في استدلال Amazon SageMaker AI، يمكنك نشر نماذج تحويل الكلام إلى نص من خلال استدعاء نقطة النهاية الخاصة بك باستخدام واجهة API الجديدة الخاصة بالتدفق ثنائي الاتجاه. يفتح العميل اتصال HTTP2 بوقت تنفيذ SageMaker AI، ويقوم SageMaker AI تلقائيًا بإنشاء اتصال بين WebSocket وحاويتك. ويمكن أن يؤدي ذلك إلى معالجة تدفق إطارات الصوت وإرجاع نتائج نصية جزئيًا فور إنتاجها. وتعمل أي حاوية تفعّل معالج WebSocket بعد عقد SageMaker AI تلقائيًا، مع تشغيل نماذج الكلام في الوقت الفعلي مثل Deepgram دون تعديلات. ويوفر ذلك شهورًا من تطوير البنية التحتية، الأمر الذي يتيح لك نشر وكلاء صوتيين باستخدام إنشاء النسخ المكتوبة باستمرار مع تركيز وقتك على تحسين أداء النموذج.
يتوفر التدفق ثنائي الاتجاه في مناطق AWS التالية - كندا (الوسطى)، وأمريكا الجنوبية (ساو باولو)، وأفريقيا (كيب تاون)، وأوروبا (باريس)، وآسيا والمحيط الهادئ (حيدر أباد)، وآسيا والمحيط الهادئ (جاكرتا)، وإسرائيل (تل أبيب)، وأوروبا (زيوريخ)، وآسيا والمحيط الهادئ (طوكيو)، وAWS GovCloud في الولايات المتحدة (غرب الولايات المتحدة)، وAWS GovCloud في الولايات المتحدة (شرق الولايات المتحدة)، وآسيا والمحيط الهادئ (مومباي)، والشرق الأوسط (البحرين)، وغرب الولايات المتحدة (أوريجون)، والصين (نينغشيا)، وغرب الولايات المتحدة (شمال كاليفورنيا)، وآسيا والمحيط الهادئ (سيدني)، وأوروبا (لندن)، وآسيا والمحيط الهادئ (سول)، وشرق الولايات المتحدة (فرجينيا الشمالية)، وآسيا والمحيط الهادئ (هونغ كونغ)، وشرق الولايات المتحدة (أوهايو)، والصين (بكين)، وأوروبا (ستوكهولم)، وأوروبا (أيرلندا)، والشرق الأوسط (الإمارات العربية المتحدة)، وآسيا والمحيط الهادئ (أوساكا)، وآسيا والمحيط الهادئ (ملبورن)، وأوروبا (إسبانيا)، وأوروبا (فرانكفورت)، وأوروبا (ميلان)، وآسيا والمحيط الهادئ (سنغافورة).
لمعرفة المزيد، تفضل بزيارة مدونة أخبار AWS هنا ووثائق SageMaker AI هنا.