توسع Amazon Bedrock الدعم لإحالة الاستخدام على مستوى الطلب
يمكن لعملاء Amazon Bedrock الآن إحالة استخدام استدلال النموذج إلى فرق وتطبيقات وبيئات وتجارب محددة على مستوى الطلب الفردي على واجهات برمجة تطبيقات InvokeModel وInvokeModelWithResponseStream. يمنح هذا العملاء رؤية دقيقة حول كيفية توزيع استخدامهم لـ Amazon Bedrock عبر مؤسستهم، مما يساعدهم على
فهم أنماط الاستهلاك وتحسين الإنفاق والإبلاغ عن الاستخدام إلى أصحاب المصلحة الداخليين دون توفير موارد إضافية.
يعتمد هذا الإطلاق على مجموعة Amazon Bedrock الحالية لإمكانيات إحالة الاستخدام. يمكن للعملاء بالفعل إحالة استخدام استدلال النموذج على مستوى الموارد والهوية باستخدام ملفات تعريف استدلال التطبيق، والإحالة المستندة إلى المستخدم الأساسي لـ IAM، والتتبع على مستوى المشروع على نقطة نهاية bedrock-mantle المتوافقة مع OpenAI، والتتبع على مستوى مساحة العمل لـ
نماذج Anthropic Claude. بالنسبة للإحالة الدقيقة لكل طلب، دعمت واجهات برمجة تطبيقات Converse وConverseStream البيانات الوصفية على مستوى الطلب منذ الإطلاق. يوفر إصدار اليوم نفس الإمكانات لواجهات برمجة تطبيقات InvokeModel وInvokeModelWithResponseStream، مما يمنح العملاء طريقة متسقة لوضع علامات على اتصالات الاستدلال عبر نقطة نهاية bedrock-runtime بالكامل.
مع هذا الإطلاق، يمكن للعملاء وضع علامة على كل اتصال لاستدلال نموذج Amazon Bedrock بسمات مثل الفريق أو المشروع أو البيئة، وتحليل الاستخدام بواسطة هذه العلامات في سجلات استدعاء نموذج Amazon Bedrock. للبدء، قم بتمكين تسجيل استدعاء النموذج في منطقة AWS حيث تتصل بـ Amazon Bedrock، ثم أضف البيانات الوصفية إلى طلبات الاستدلال الخاصة بك. تتوفر هذه الميزة في جميع مناطق AWS التجارية التي تتوفر بها خدمة Amazon Bedrock. لمعرفة المزيد، اطلع على طلب بيانات التعريف.