2026.11.07 접속자 63명
로그인 회원가입
HOT
[AI뉴스] ChatGPT, Claude, Gemini 최근 업데이트 뭐가 달라졌나요? [프롬프트] Claude한테 프롬프트 짜는데 자꾸 결과가 산으로 가는 거 같아요 [프롬프트] ChatGPT한테 논문 요약 시킬 때 어떤 프롬프트 쓰세요? [AI뉴스] 요즘 ChatGPT, Claude, Gemini 뭐 써야 할까? [AI뉴스] 요즘 ChatGPT, Claude, Gemini 뭐 쓰세요? 각각 뭐가 달라졌더라고요 [AI뉴스] 국내 AI 기본법 시행 시작했는데 아직 헷갈리는 거 많네요 [프롬프트] 프롬프트 쓰다 보니 느낀 건데, 결국 질문 잘하는 능력이 핵심이더라요 [AI뉴스] 요즘 AI 기업들 뭐하는 거예요? 진짜 스피드가 미친 수준이네요 ㅋㅋ [프롬프트] 데이터 전처리 프롬프트 이거 효과 있던데 공유합니다 [프롬프트] 코드 리뷰 요청할 때 쓸 만한 프롬프트 있으신가요? [AI뉴스] ChatGPT, Claude, Gemini 최근 업데이트 뭐가 달라졌나요? [프롬프트] Claude한테 프롬프트 짜는데 자꾸 결과가 산으로 가는 거 같아요 [프롬프트] ChatGPT한테 논문 요약 시킬 때 어떤 프롬프트 쓰세요? [AI뉴스] 요즘 ChatGPT, Claude, Gemini 뭐 써야 할까? [AI뉴스] 요즘 ChatGPT, Claude, Gemini 뭐 쓰세요? 각각 뭐가 달라졌더라고요 [AI뉴스] 국내 AI 기본법 시행 시작했는데 아직 헷갈리는 거 많네요 [프롬프트] 프롬프트 쓰다 보니 느낀 건데, 결국 질문 잘하는 능력이 핵심이더라요 [AI뉴스] 요즘 AI 기업들 뭐하는 거예요? 진짜 스피드가 미친 수준이네요 ㅋㅋ [프롬프트] 데이터 전처리 프롬프트 이거 효과 있던데 공유합니다 [프롬프트] 코드 리뷰 요청할 때 쓸 만한 프롬프트 있으신가요?

LLM 토큰 길이 제한 때문에 헷갈리는데 정리 좀 해주세요

딥러닝장인 2026.10.27 05:10 조회 23 추천 1 댓글 1건
요즘 ChatGPT, Claude, Gemini 같은 모델들 써보다 보니 토큰 제한이 다 다르더라고요. 특히 context window가 뭐랑 max tokens가 뭐가 다른지 헷갈려요. 같은 4K 모델인데도 실제로 쓰면 뭔가 다른 것 같고요.

누군가 정리해주신 자료나 블로그 있으면 좋겠는데, 그냥 단순하게 설명해주셔도 괜찮습니다. Context window는 한 번에 처리할 수 있는 최대 길이고 max tokens는 응답 길이 제한이라고 알고 있는데 맞는 건가요?

실무에서 프롬프트 엔지니어링할 때 이게 중요하다고 들어서 정확히 알고 싶습니다.
추천 1
댓글 1

댓글목록

profile_image
궁금하면
정리해주신 거 맞는 것 같아요. Context window가 입출력 합친 전체 길이고, max tokens는 답변 부분만 제한하는 거라고 보면 될 것 같습니다.
실무에서는 context window를 먼저 파악해야 프롬프트랑 과거 대화를 얼마나 넣을 수 있을지 결정할 수 있거든요. 그 다음에 max tokens로 응답 길이를 조절하는 식으로 생각하면 헷갈리지 않을 거예요.
모델별로도 실제 동작이 조금씩 다르더라고요. Claude가 context window를 잘 활용한다는 평가가 많은데 한번 직접 테스트해보시면 차이를 느낄 수 있을 거같습니다.