API Count Tokens kini didukung untuk model Claude Anthropic di Amazon Bedrock
API Hitungan Token sekarang tersedia di Amazon Bedrock, yang memungkinkan Anda menentukan jumlah token untuk prompt atau input tertentu yang dikirim ke ID model tertentu sebelum melakukan inferensi apa pun.
Dengan menampilkan jumlah token prompt, API Hitung Token memungkinkan Anda memproyeksikan biaya secara lebih akurat, serta memberikan transparansi dan kontrol yang lebih besar atas penggunaan model AI Anda. Fitur ini memungkinkan Anda mengelola batasan token di Amazon Bedrock secara proaktif, membantu mengoptimalkan penggunaan dan menghindari throttling yang tidak terduga. Ini juga membantu memastikan beban kerja Anda sesuai dengan batas panjang konteks model, yang memungkinkan pengoptimalan prompt yang lebih efisien.
Saat peluncuran, API Count Tokens akan mendukung model Claude, dengan fungsionalitas yang tersedia di semua region tempat model ini didukung. Untuk informasi lebih lanjut tentang fitur baru ini, termasuk model yang didukung dan kasus penggunaan, kunjungi dokumentasi API Count Tokens.