요즘 GPT-4나 Claude API 써보면서 느낀 건데, 공식 토큰 카운터랑 실제 청구되는 토큰 수가 자주 안 맞더라고요. 특히 이미지 포함된 요청이나 시스템 프롬프트 부분에서 편차가 크게 나는 것 같습니다.
OpenAI의 tiktoken 라이브러리로 계산해도 뭔가 부정확한 느낌이 들고, 각 모델별로 토크나이저가 조금씩 다르다는 건 알겠는데 실무에서는 예산 책정할 때 정확히 못 하면 문제가 되거든요. 혹시 이 부분 경험 있으신 분들 있으면 팁 공유해주실 수 있을까요? 아니면 그냥 여유 있게 20% 정도 더 잡고 계산하는 게 정석인지도 궁금하네요.