يدعم وكلاء Amazon Bedrock والتدفقات وقواعد المعرفة الآن النماذج المحسّنة لزمن الاستجابة
يقدم وكلاء Amazon Bedrock والتدفقات وقواعد المعرفة الآن الدعم للنماذج التي تم الإعلان عنها مؤخرًا التي تجري معاينتها والمحسّنة لزمن الاستجابة عبر SDK. يوفر هذا التحسين أوقات استجابة أسرع واستجابة محسّنة لتطبيقات الذكاء الاصطناعي التي تم إنشاؤها باستخدام أدوات Amazon Bedrock. حاليًا، يتوفر هذا التحسين لطراز Claude 3.5 Haiku من Anthropic ونماذج Meta's Llama 3.1 405B و70B، مما يوفر زمن استجابة أقل مقارنة بالنماذج القياسية دون المساس بالدقة.
يعد هذا التحديث مفيدًا بشكل خاص للعملاء الذين يطورون تطبيقات حساسة لزمن الاستجابة مثل روبوتات الدردشة لخدمة العملاء في الوقت الفعلي ومساعدي الترميز التفاعلي. من خلال الاستفادة من رقائق الذكاء الاصطناعي المصممة لهذا الغرض مثل AWS Trainium2 وتحسينات البرامج المتقدمة في Amazon Bedrock، يستطيع العملاء الآن الوصول إلى المزيد من الخيارات لتحسين استنتاجهم لحالات استخدام محددة. والأهم من ذلك، يمكن دمج هذه الإمكانات على الفور في التطبيقات الحالية دون إعداد إضافي أو ضبط دقيق للنموذج، مما يؤدي إلى تحسين الأداء وأوقات استجابة أسرع.
يتوفر دعم الاستدلال المحسّن لزمن الاستجابة لوكلاء Amazon Bedrock والتدفقات وقواعد المعرفة في منطقة شرق الولايات المتحدة (أوهايو) عبر الاستدلال عبر المناطق. يستطيع العملاء الوصول إلى هذه الإمكانات الجديدة من خلال Amazon Bedrock SDK عبر تكوين وقت التشغيل، مما يمكّنهم من دمج هذه النماذج المحسّنة برمجيًا في عمليات سير العمل والتطبيقات الخاصة بهم.
لمعرفة المزيد حول Amazon Bedrock وإمكاناته، بما في ذلك دعم الاستدلال الجديد المحسّن لزمن الاستجابة، تفضل بزيارة صفحة منتج Amazon Bedrock وصفحة التسعير والوثائق.