저도 비슷한 경험 있었는데 LoRA면 데이터 1000개는 좀 적을 수 있어요. 먼저 validation loss 따로 빼서 확인해보셨나요? 그게 계속 올라가면 오버피팅이 거의 확실하거든요.
LLM 파인튜닝 처음 해보는데 이게 맞는 건가요?
요즘 자체 데이터로 LLM을 파인튜닝해보려고 시작했는데 뭔가 이상한 것 같아요. 학습 loss는 계속 내려가는데 실제로 inference 했을 때는 여전히 원래 답변 패턴에서 안 벗어나더라고요.
혹시 이게 오버피팅 문제인지, 아니면 제 데이터셋이 너무 작아서 그런 건지 구분을 못 하겠어요. 데이터는 약 1000개 정도 되고 파라미터는 LoRA로 줄여서 학습 중입니다.
비슷한 경험 있으신 분들이 있으면 조언 부탁드려요. 뭘 먼저 확인해봐야 할까요?
혹시 이게 오버피팅 문제인지, 아니면 제 데이터셋이 너무 작아서 그런 건지 구분을 못 하겠어요. 데이터는 약 1000개 정도 되고 파라미터는 LoRA로 줄여서 학습 중입니다.
비슷한 경험 있으신 분들이 있으면 조언 부탁드려요. 뭘 먼저 확인해봐야 할까요?
추천 7
- 이전글ChatGPT 유료 구독 후 3개월 후기, 괜찮을까요?26.07.06
- 다음글AI 이미지 생성기 처음 쓰는데 프롬프트 팁 좀 공유합니다26.07.05
댓글
3
댓글목록
1000개면 LoRA 파인튜닝에 적당한 사이즈긴 한데 검증 데이터셋으로 따로 떼놔서 loss 추이를 봤나요? 트레인 loss만 내려가고 검증 loss가 올라가면 오버피팅 맞습니다. 그리고 학습률을 좀 낮춰서 천천히 학습시켜보는 것도 도움 될 수 있어요.
1000개면 사실 LoRA로는 좀 부족할 수 있어요. 저도 처음엔 loss 떨어지는 걸 보고 잘됐다고 생각했는데 inference는 별로더라고요. validation loss를 따로 봐야 오버피팅 구분이 되거든요. 먼저 training/validation split을 5:5나 7:3으로 나눠서 둘 다 모니터링해보시면 어디가 문제인지 보일 거예요.
댓글을 작성하려면 로그인이 필요합니다.