تعلن Amazon Bedrock عن معاينة التخزين المؤقت للأوامر
تعلن AWS اليوم أن Amazon Bedrock أصبحت الآن تدعم التخزين المؤقت للأوامر. التخزين المؤقت للأوامر هو قدرة جديدة يمكنها تقليل التكاليف بنسبة تصل إلى 90% وزمن الاستجابة بنسبة تصل إلى 85% للنماذج المدعومة عن طريق التخزين المؤقت للأوامر المستخدمة بشكل متكرر عبر استدعاءات API المتعددة. يسمح لك بتخزين المدخلات المتكررة مؤقتًا وتجنب سياق إعادة المعالجة، مثل أوامر النظام الطويلة والأمثلة الشائعة التي تساعد في توجيه استجابة النموذج. عند استخدام التخزين المؤقت، تكون هناك حاجة إلى عدد أقل من موارد الحوسبة لتوليد المخرجات. ونتيجة لذلك، لا يمكننا معالجة طلبك بشكل أسرع فحسب، بل يمكننا أيضًا توفير التكاليف من خلال استخدام موارد أقل.
Amazon Bedrock هي خدمة مُدارة بالكامل توفر مجموعة مختارة من نماذج التأسيس ذات الأداء العالي المقدمة من شركات رائدة في مجال الذكاء الاصطناعي عبر واجهة برمجة تطبيقات واحدة. توفر Amazon Bedrock أيضًا مجموعة واسعة من الإمكانات التي يحتاجها العملاء لبناء تطبيقات الذكاء الاصطناعي المولّد مع إمكانات الذكاء الاصطناعي المسؤول والأمان والخصوصية المضمنة. تساعدك هذه الإمكانات على إنشاء تطبيقات مخصصة لحالات الاستخدام المتعددة في مختلف الصناعات، مما يساعد المؤسسات على إطلاق العنان للنمو المستدام من الذكاء الاصطناعي المولّد مع توفير الأدوات لبناء ثقة العملاء وحوكمة البيانات.
يتوفر التخزين المؤقت للأوامر الآن على Claude 3.5 Haiku وClaude 3.5 Sonnet v2 في غرب الولايات المتحدة (أوريجون) وشرق الولايات المتحدة (فرجينيا الشمالية) من خلال الاستدلال عبر المناطق، ونماذج Nova Micro وNova Lite وNova Pro في شرق الولايات المتحدة (فرجينيا الشمالية). عند الإطلاق، لن يتمكن سوى عدد محدد من العملاء من الوصول إلى هذه الميزة. لمعرفة المزيد حول المشاركة في المعاينة، راجع هذه الصفحة. لمعرفة المزيد حول التخزين المؤقت للأوامر، راجع الوثائق والمدونة لدينا.