Amazon Bedrock, istek düzeyinde kullanım ilişkilendirmesi desteğini genişletiyor
Amazon Bedrock müşterileri artık model çıkarım kullanımını InvokeModel ve InvokeModelWithResponseStream API'lerinde bireysel istek düzeyinde belirli ekiplere, uygulamalara, ortamlara ve denemelere bağlayabilir. Bu, müşterilere Amazon Bedrock kullanımlarının kuruluşları içinde nasıl dağıtıldığı üzerinde ayrıntılı görünürlük kazandırarak
onlara ek kaynak tedariki yapmadan tüketim düzenlerini anlamada, harcamayı optimize etmede ve kullanımı dahili paydaşlara raporlamada yardımcı olur.
Bu lansman, Amazon Bedrock'ın mevcut kullanım ilişkilendirme özellikleri portföyünün üzerine ekleme yapıcı niteliktedir. Müşteriler uygulama çıkarım profilleri, IAM ilke tabanlı ilişkilendirme, OpenAI uyumlu bedrock-mantle uç noktasında proje düzeyinde izleme ve Anthropic Claude modelleri için iş alanı düzeyinde izlemeyi kullanarak model çıkarımı kullanımını kaynak ve kimlik düzeyinde ilişkilendirme
özelliğine zaten sahiptir. Daha ayrıntılı, istek başına ilişkilendirme için Converse ve ConverseStream API'leri, lansmandan bu yana istek düzeyinde meta verileri desteklemiştir. Bugünkü sürüm, InvokeModel ve InvokeModelWithResponseStream API'lerine aynı özelliği getiriyor ve müşterilere tüm bedrock-runtime uç noktasında çıkarım çağrılarını etiketlemeleri için tutarlı bir yol sunuyor.
Bu lansmanla müşteriler her Amazon Bedrock modeli çıkarımı çağrısını ekip, proje veya ortam gibi özelliklerle etiketleyebilir ve Amazon Bedrock model çağrı günlüklerinde bu etiketlere göre kullanımı analiz edebilir. Kullanmaya başlamak için Amazon Bedrock'ı aradığınız AWS Bölgesi'nde model çağrı günlüğünü etkinleştirin, ardından çıkarım isteklerinize meta veriler ekleyin. Bu özellik, Amazon Bedrock'ın kullanılabildiği tüm AWS ticari bölgelerinde kullanılabilir. Daha fazla bilgi edinmek için Meta veri isteme sayfasına bakın.