ตอนนี้ API Count Tokens รองรับสำหรับโมเดล Claude ของ Anthropic ใน Amazon Bedrock แล้ว
API Count Tokens พร้อมให้ใช้งานแล้วใน Amazon Bedrock ซึ่งช่วยให้คุณสามารถกำหนดจำนวนโทเค็นสำหรับพร้อมท์หรืออินพุตที่ส่งไปยังโมเดล ID ที่เฉพาะเจาะจง ก่อนที่จะทำการอนุมานใดๆ
ด้วยการแสดงจำนวนโทเค็นของพร้อมท์ API Count Tokens ช่วยให้คุณสามารถคาดการณ์ค่าใช้จ่ายได้อย่างแม่นยำยิ่งขึ้น และช่วยให้คุณมีความโปร่งใสและควบคุมการใช้งานโมเดล AI ได้มากขึ้น ซึ่งช่วยให้คุณสามารถจัดการขีดจำกัดโทเค็นของคุณบน Amazon Bedrock ได้ในเชิงรุก ช่วยเพิ่มประสิทธิภาพการใช้งานและหลีกเลี่ยงการควบคุมปริมาณที่ไม่คาดคิด นอกจากนี้ยังช่วยให้แน่ใจว่าเวิร์กโหลดของคุณเหมาะสมกับขีดจำกัดความยาวบริบทของโมเดล ทำให้สามารถปรับพร้อมท์ให้เหมาะสมได้อย่างมีประสิทธิภาพมากขึ้น
ในการเปิดตัว API Count Tokens จะรองรับโมเดล Claude โดยมีฟังก์ชันการทำงานพร้อมใช้งานในทุกรีเจี้ยนที่โมเดลเหล่านี้รอบรับ สำหรับข้อมูลเพิ่มเติมเกี่ยวกับฟีเจอร์ใหม่นี้ รวมถึงโมเดลและกรณีการใช้งานที่รองรับ โปรดดูเอกสารประกอบ API Count Tokens