저도 비슷한 경험 있는데 데이터셋 퀄리티를 먼저 체크해보세요. 손실은 떨어지는데 실제 성능이 안 나오는 건 보통 학습 데이터가 편향되어 있을 때거든요. 그리고 검증 데이터셋을 따로 빼서 모니터링하면서 진행하면 과적합을 더 빨리 캐치할 수 있어요.
처음 LLM 파인튜닝 시도했는데 뭔가 이상한데...
최근에 작은 데이터셋으로 오픈소스 모델 파인튜닝을 해봤는데 결과가 예상과 좀 달랐네요. 학습 손실은 계속 떨어지는데 실제 추론할 때는 그렇게까지 좋지 않더라고요. 혹시 과적합이 심한 건가 싶기도 하고요.
배치 크기랑 러닝레이트를 조정해봐도 비슷한 경향이 있어서 좀 답답합니다. 더 큰 데이터셋이 필요한 건지, 아니면 제가 뭔가 놓친 게 있는 건지 모르겠거든요. 혹시 비슷한 경험 있으신 분들 있으면 어떻게 해결했는지 궁금합니다.
배치 크기랑 러닝레이트를 조정해봐도 비슷한 경향이 있어서 좀 답답합니다. 더 큰 데이터셋이 필요한 건지, 아니면 제가 뭔가 놓친 게 있는 건지 모르겠거든요. 혹시 비슷한 경험 있으신 분들 있으면 어떻게 해결했는지 궁금합니다.
추천 14
- 이전글요즘 ChatGPT 유료 구독 가치 있나요?26.04.22
- 다음글ChatGPT 유료 vs 무료, 실제로 얼마나 차이 나나요?26.04.20
댓글
4
댓글목록
저도 처음 파인튜닝할 때 비슷했어요. 손실은 줄어드는데 실제론 별로더라고요 ㅎㅎ 데이터 질이 중요한데, 데이터셋 샘플들을 다시 한번 점검해보시는 것도 도움이 될 거 같습니다.
저도 비슷한 경험이 있었는데 학습 손실과 추론 성능이 안 맞는 건 보통 데이터 분포 문제더라고요. 특히 작은 데이터셋이면 검증 세트와 테스트 세트 구성을 한 번 확인해보세요. 학습 데이터만 편향되어 있으면 손실은 줄어들어도 실제 추론이 안 좋을 수 있거든요.
그리고 배치 크기 조정도 중요한데, 너무 작으면 과적합이 심해질 수 있으니까 가능하면 좀 더 크게 해보는 것도 방법입니다. 혹은 에포크 수를 줄여서 일찍 멈춰보는 것도 도움이 될 거 같네요.
그리고 배치 크기 조정도 중요한데, 너무 작으면 과적합이 심해질 수 있으니까 가능하면 좀 더 크게 해보는 것도 방법입니다. 혹은 에포크 수를 줄여서 일찍 멈춰보는 것도 도움이 될 거 같네요.
저도 그거 겪었는데 대부분 데이터셋 문제더라고요. 학습 손실과 실제 성능이 차이 나는 건 보통 훈련 데이터가 너무 편향되어 있거나 일반화가 안 돼서인 경우가 많아요. 혹시 훈련셋이랑 검증셋 분리를 제대로 하셨나요? 그리고 데이터셋 크기가 정말 작다면 LoRA 같은 가벼운 파인튜닝 방식을 시도해보는 것도 방법일 수 있어요. 그게 과적합을 어느 정도 완화해주더라고요.
댓글을 작성하려면 로그인이 필요합니다.