Anthropic'in Claude modelleri için desteklenen Belirteçleri Sayma API'si artık Amazon Bedrock'ta
Belirteçleri Sayma API'si artık Amazon Bedrock'ta mevcuttur ve herhangi bir çıkarım yapmadan önce belirli bir model kimliğine gönderilen belirli bir komut istemi veya girdi için belirteç sayısını belirlemenizi sağlar.
Bir komut isteminin belirteç sayısını ortaya çıkararak, Belirteçleri Sayma API'si maliyetlerinizi daha doğru bir şekilde yansıtmanıza olanak tanır ve yapay zeka modeli kullanımınız üzerinde size daha fazla şeffaflık ve kontrol sağlar. Amazon Bedrock'taki belirteç sınırlarınızı proaktif olarak yönetmenize olanak tanıyarak kullanımınızı optimize etmenize ve beklenmedik kısıtlamalardan kaçınmanıza yardımcı olur. Ayrıca, iş yüklerinizin bir modelin bağlam uzunluğu sınırına uymasını sağlamaya yardımcı olur ve daha verimli istem optimizasyonu yapmanızı sağlar.
Lansmanla birlikte, Belirteçleri Sayma API'si, bu modellerin desteklendiği tüm bölgelerdeki işlevsellik ile Claude modellerini destekleyecektir. Desteklenen modeller ve kullanım örnekleri de dahil olmak üzere bu yeni özellik hakkında daha fazla bilgi için Belirteçleri Sayma API belgelerini ziyaret edin.