최근에 NLP 공부를 시작했는데 기본 개념은 어느 정도 이해한 것 같아서 이제 직접 뭔가 만들어보고 싶어요. 특히 우리 회사 데이터에 맞는 챗봇을 만들어야 해서 파인튜닝에 대해 알아보고 있거든요.
근데 자료를 찾아보니까 너무 많은 방법들이 있더라고요. LoRA, QLoRA, 전체 파인튜닝, instruction tuning... 뭐가 뭔지 헷갈려요. 그리고 일단 어떤 기본 모델부터 시작하면 좋을까요. Llama2? Mistral? 아니면 한국어는 따로 학습된 모델이 낫나요?
또 하나 궁금한 게 저희 팀에 GPU도 별로 없고 파인튜닝 경험이 있는 사람도 없는 상황이라서요. 그럼 처음부터 전체 파인튜닝으로 시작하면 망하지 않을까 걱정돼요. 좀 가볍게 시작할 수 있는 방법이 있을까요?
그리고 실제로 파인튜닝한 모델을 평가하려면 어떻게 해야 하는지도 모르겠어요. 그냥 직접 써보면서 느껴야 하나요 아니면 정량적인 지표가 있나요?
혹시 이런 상황에서 파인튜닝을 해보신 분 계신가요. 어떤 접근 방식이 제일 실용적이었는지 조언 부탁드려요.