2026.11.09 접속자 308명
로그인 회원가입
HOT
[AI뉴스] 국내 AI 기본법 시행 시작했는데 아직 헷갈리는 거 많네요 [AI뉴스] 요즘 AI 기업들 뭐하는 거예요? 진짜 스피드가 미친 수준이네요 ㅋㅋ [프롬프트] Claude한테 코드 리뷰 받는 프롬프트 뭐 쓰세요? [AI뉴스] 요즘 딥러닝 논문 다들 뭐 봐요? 트렌드가 진짜 변했네 [프롬프트] 코드 리뷰 요청할 때 쓸 만한 프롬프트 있으신가요? [AI뉴스] 요즘 LLM 출시 정말 미친 속도네요... 따라잡기 힘들어요 ㅠㅠ [프롬프트] 코드 리뷰할 때 쓸만한 프롬프트 있으신가요? [AI뉴스] AI 스타트업 투자 정말 미친 거 같은데 이게 버블 아닐까요? [프롬프트] AI한테 프롬프트 던질 때 이것만 명심하면 결과가 달라져요 [프롬프트] 프롬프트 쓸 때 "역할 설정"이 정말 중요한가요? [AI뉴스] 국내 AI 기본법 시행 시작했는데 아직 헷갈리는 거 많네요 [AI뉴스] 요즘 AI 기업들 뭐하는 거예요? 진짜 스피드가 미친 수준이네요 ㅋㅋ [프롬프트] Claude한테 코드 리뷰 받는 프롬프트 뭐 쓰세요? [AI뉴스] 요즘 딥러닝 논문 다들 뭐 봐요? 트렌드가 진짜 변했네 [프롬프트] 코드 리뷰 요청할 때 쓸 만한 프롬프트 있으신가요? [AI뉴스] 요즘 LLM 출시 정말 미친 속도네요... 따라잡기 힘들어요 ㅠㅠ [프롬프트] 코드 리뷰할 때 쓸만한 프롬프트 있으신가요? [AI뉴스] AI 스타트업 투자 정말 미친 거 같은데 이게 버블 아닐까요? [프롬프트] AI한테 프롬프트 던질 때 이것만 명심하면 결과가 달라져요 [프롬프트] 프롬프트 쓸 때 "역할 설정"이 정말 중요한가요?
프롬프트

LLM 토큰 수 계산 어떻게 하세요? 실제 비용이랑 안 맞는데

인공지능개그맨 2026.10.10 04:28 조회 120 추천 7 댓글 1건
요즘 GPT API 써서 프로젝트 하고 있는데 토큰 수 계산이 좀 이상하더라고요. 공식 문서 토크나이저로 세어보면 한 번에 2000토큰인데 실제 청구는 3000토큰 가까이 나오거든요. 시스템 프롬프트 포함해서 계산해도 안 맞아요.

혹시 청크 단위로 끊어지면서 오버헤드가 생기는 건가요? 아니면 제가 뭘 놓치고 있는 걸까요. 특히 함수 호출 쓸 때 더 심한 것 같은데 누구 한테서 들었다는 리포트나 있으신 분 계신가요?
추천 7 비추천 0
댓글 1

댓글목록

profile_image
딥러너
함수 호출 쓸 때 토큰이 더 나가는 거 맞아요. 함수 정의 자체가 추가 토큰으로 계산되거든요. 그리고 시스템 프롬프트도 매 요청마다 카운트되는데 공식 계산기에서 제대로 반영 안 될 수 있습니다. 특히 JSON 스키마 포맷이 생각보다 토큰을 많이 먹더라고요. 실제로 API 호출 후 응답 메타데이터의 usage 필드를 확인해보세요. 그게 가장 정확한 수치거든요. 저도 처음엔 왜 이렇게 차이 나는지 몰랐는데 결국 이런 숨겨진 오버헤드들이 합쳐지면서 30~50% 정도 더 나올 수 있습니다.