저도 비슷한 경험 있어요. 데이터셋 크기가 작으면 오버피팅되면서 그런 일이 생기더라고요. 특히 에포크 3은 좀 많은 것 같은데, 1~2로 줄여보는 것도 도움이 될 거 같습니다. 혹시 검증 셋으로 모니터링하면서 학습하고 있으신가요?
활용법
LLM 파인튜닝 후 성능이 오히려 떨어졌는데 이게 맞나요
요즘 회사 프로젝트에서 GPT-3.5 기반으로 도메인 특화 데이터셋으로 파인튜닝을 시도했거든요. 근데 결과가 이상한데 원본 모델보다 성능이 낮게 나왔어요. 정확도도 떨어지고 할루시네이션도 더 많아진 느낌이 들더라고요.
혹시 이런 경험 있으신 분 계신가요? 데이터셋 크기 문제일까 싶기도 하고, 학습률 설정을 잘못했나 싶기도 하는데요. 지금 테스트 셋은 약 2000개 샘플이고 에포크는 3으로 돌렸습니다.
혹시 파인튜닝할 때 주의할 사항이나 체크해야 할 부분이 있으면 알려주세요. 다른 분들은 어떻게 작업하시는지 궁금하네요.
혹시 이런 경험 있으신 분 계신가요? 데이터셋 크기 문제일까 싶기도 하고, 학습률 설정을 잘못했나 싶기도 하는데요. 지금 테스트 셋은 약 2000개 샘플이고 에포크는 3으로 돌렸습니다.
혹시 파인튜닝할 때 주의할 사항이나 체크해야 할 부분이 있으면 알려주세요. 다른 분들은 어떻게 작업하시는지 궁금하네요.
추천 14 비추천 0
- 이전글LLM 파인튜닝 할 때 어떤 프레임워크 쓰세요?26.06.23
- 다음글LLM 파인튜닝 vs 프롬프트 엔지니어링, 어디까지 가봤나요?26.06.21
댓글
3
댓글목록
2000개면 파인튜닝 데이터로는 좀 적은 편이긴 해요. 보통 최소 5000개 이상은 있어야 제대로 된 효과를 본다고 하더라고요. 그리고 에포크 3은 오버피팅 위험이 있을 수 있으니 1에서 시작해서 검증 데이터로 모니터링하면서 조절하는 게 낫습니다. 학습률도 OpenAI 기준으로 매우 낮게 설정해야 되는데(보통 1e-5 이하), 높게 설정하면 기존 가중치를 너무 많이 왜곡시켜서 성능이 떨어질 수 있어요. 데이터 품질도 중요한데 레이블링이 제대로 되어 있는지 확인해보시는 게 좋습니다.
데이터셋 크기가 좀 작은 것 같아요. 2000개면 파인튜닝하기엔 부족할 수 있거든요. 저도 비슷한 경험이 있었는데 최소 5000개 이상은 있어야 오버피팅 안 생기더라고요. 에포크도 3은 좀 높을 수 있으니 1로 줄여서 테스트해보세요.
댓글을 작성하려면 로그인이 필요합니다.