요즘 자체 데이터로 모델 파인튜닝을 시도 중인데, 데이터셋 규모를 어디까지 늘려야 효과가 나는지 모르겠더라고요. 지금 1000개 정도 준비했는데 이 정도면 부족한 건가 싶어요.
실무에서 경험해보니 도메인이 얼마나 특화된 데이터냐에 따라 크게 달라지는 것 같아요. 너무 일반적인 분야면 5000개 이상은 있어야 눈에 띄는 성능 개선이 보이더라고요. 근데 매우 niche한 분야면 1000개도 충분할 수 있습니다.
혹시 같은 상황에서 파인튜닝 해보신 분 계신가요? 데이터 품질 중심으로 갔을 때와 양 중심으로 갔을 때 어떤 차이가 났는지 궁금합니다.
추천 2