أصبح تقطير نموذج Amazon Bedrock متاحًا الآن بشكل عام
تقطير النموذج هو عملية نقل المعرفة من نموذج أكثر قدرة (معلم) إلى نموذج أقل قدرة (طالب) بهدف جعل نموذج الطالب أسرع وأكثر كفاءة من حيث التكلفة مثل أداء المعلم لحالة استخدام محددة. مع التوافر العام، نضيف الآن دعمًا للنماذج الجديدة التالية: أمازون نوفا بريمير (المعلم) ونوفا برو (الطالب)، كلود 3.5 سونيت v2 (المعلم)، Llama 3.3 70B (المعلم) واللاما 3.2 1B/3B (طالب). يمكّن Amazon Bedrock Model Distillation الآن النماذج الأصغر من التنبؤ بدقة بالوظائف التي تستدعي حالات استخدام الوكلاء مع المساعدة في توفير أوقات استجابة أسرع بكثير وتكاليف تشغيلية أقل. تعد النماذج المقطرة في Amazon Bedrock أسرع بنسبة تصل إلى 500% وأقل تكلفة بنسبة تصل إلى 75% من النماذج الأصلية، مع فقدان دقة أقل من 2% لحالات الاستخدام مثل RAG. إضافة إلى حالات استخدام RAG، يضيف نموذج التقطير أيضًا دعمًا لزيادة البيانات لحالات استخدام الوكلاء للتنبؤ باستدعاء الوظائف.
يوفر Amazon Bedrock Model Distillation سير عمل واحدًا يعمل على أتمتة العملية اللازمة لتوليد استجابات المعلم، ويضيف تجميع البيانات لتحسين استجابات المعلم، ثم يقوم بتدريب نموذج الطالب. لإزالة بعض أعباء التكرار، قد يختار Model Distillation تطبيق طرق مختلفة لتوليف البيانات تناسب حالة الاستخدام الخاصة بك بشكل أفضل لإنشاء نموذج مقطر يتطابق تقريبًا مع النموذج المتقدم لحالة الاستخدام المحددة.
تعرف على المزيد في وثائقنا وموقعنا الإلكتروني ومدونتنا.