تدعم Amazon Bedrock الآن عمليات التضمين المضغوطة من Cohere Embed
تدعم Amazon Bedrock الآن عمليات التضمين المضغوطة (int8 والثنائية) من نموذج Cohere Embed، ويوفر ذلك للمطورين والشركات إمكانية إنشاء تطبيقات ذكاء اصطناعي مولّد أكثر كفاءة دون المساس بالأداء. إن Cohere Embed نموذج رائد لتضمين النص. يتم استخدامه بشكل أكثر تكررًا لتفعيل التوليد المعزز بالاسترداد (RAG) وأنظمة البحث الدلالي.
يجب تخزين مخرجات عمليات تضمين النص باستخدام نموذج Cohere Embed في قاعدة بيانات بإمكانيات بحث متجهات، مع ارتباط تكاليف التخزين ارتباطًا مباشرًا بأبعاد مخرجات التضمين بالإضافة إلى دقة تنسيق الأرقام. إن تقنيات التدريب على نماذج Cohere التي تتعرف على الضغط تسمح للنموذج بإخراج التضمينات بتنسيق للدقة ثنائي وint8، وذلك أصغر بكثير في الحجم من تنسيق الدقة FP32 المستخدم غالبًا، مع الحد الأدنى من تدهور الدقة. يؤدي هذا إلى إتاحة القدرة على تشغيل تطبيقات البحث الخاصة بمؤسستك بشكل أسرع وأرخص وأكثر كفاءة. إن عمليات التضمين int8 والثنائية مثيرة للاهتمام بشكل خاص للإعدادات الكبيرة ومتعددة الإيجار، حيث تكون القدرة على البحث في ملايين من عمليات التضمين خلال أجزاء من الثانية ميزة تجارية بالغة الأهمية. تتيح لك عمليات التضمين المضغوطة الخاصة بـ Cohere إنشاء تطبيقات تتسم بالكفاءة بدرجة كافية لاستخدامها في الإنتاج على نطاق واسع، وذلك يؤدي إلى التعجيل بوتيرة استراتيجية الذكاء الاصطناعي لديك لدعم موظفيك وعملائك.
تتوفر الآن عمليات تضمين Cohere Embed int8 والثنائية في Amazon Bedrock في جميع مناطق AWS حيث يتوفر نموذج Cohere Embed. لمعرفة المزيد، اقرأ صفحة منتج Cohere في Amazon Bedrock، والوثائق ومدونة إطلاق Cohere. للبدء في استخدام نماذج Cohere في Amazon Bedrock، تفضل بزيارة وحدة تحكم Amazon Bedrock.