저도 비슷한 경험 있었는데 LoRA면 데이터 1000개는 좀 적을 수 있어요. 먼저 validation loss 따로 빼서 확인해보셨나요? 그게 계속 올라가면 오버피팅이 거의 확실하거든요.
LLM 파인튜닝 처음 해보는데 이게 맞는 건가요?
요즘 자체 데이터로 LLM을 파인튜닝해보려고 시작했는데 뭔가 이상한 것 같아요. 학습 loss는 계속 내려가는데 실제로 inference 했을 때는 여전히 원래 답변 패턴에서 안 벗어나더라고요.
혹시 이게 오버피팅 문제인지, 아니면 제 데이터셋이 너무 작아서 그런 건지 구분을 못 하겠어요. 데이터는 약 1000개 정도 되고 파라미터는 LoRA로 줄여서 학습 중입니다.
비슷한 경험 있으신 분들이 있으면 조언 부탁드려요. 뭘 먼저 확인해봐야 할까요?
혹시 이게 오버피팅 문제인지, 아니면 제 데이터셋이 너무 작아서 그런 건지 구분을 못 하겠어요. 데이터는 약 1000개 정도 되고 파라미터는 LoRA로 줄여서 학습 중입니다.
비슷한 경험 있으신 분들이 있으면 조언 부탁드려요. 뭘 먼저 확인해봐야 할까요?
추천 6
- 이전글ChatGPT 유료 구독 후 3개월 후기, 괜찮을까요?26.07.06
- 다음글AI 이미지 생성기 처음 쓰는데 프롬프트 팁 좀 공유합니다26.07.05