Amazon Bedrock, Anthropic의 Claude 모델용 Count Tokens API 지원

게시된 날짜: 2025년 8월 22일

Amazon Bedrock에서 이제 Count Tokens API를 사용할 수 있습니다. 따라서 특정 모델 ID에 전송되는 프롬프트나 입력에 대해 추론을 수행하기 전에 토큰 수를 확인할 수 있습니다.

프롬프트의 토큰 수를 표시함으로써, Count Tokens API는 비용을 더 정확하게 예측할 수 있도록 지원하고 AI 모델 사용에 대한 투명성과 제어력을 높여줍니다. 이를 통해 Amazon Bedrock에서 토큰 한도를 사전에 관리할 수 있어, 사용 최적화와 예기치 않은 스로틀링 방지에 도움이 됩니다. 아울러 워크로드가 모델의 컨텍스트 길이 한도 내에 들어오도록 보장하여 더 효율적인 프롬프트 최적화를 가능하게 합니다.

출시 시점에 Count Tokens API는 Claude 모델을 지원하며, 이 기능은 해당 모델이 지원되는 모든 리전에서 사용할 수 있습니다. 지원되는 모델, 사용 사례 등 이 새로운 기능에 대한 자세한 내용은 Count Tokens API 설명서에서 확인하세요.