요즘 오픈소스 LLM 가지고 회사 데이터로 파인튜닝 하려고 하는데 방식 선택이 고민이네요. LoRA가 효율적이긴 한데 실제 성능에서는 Full Fine-tuning이 낫다는 글들도 많이 보이더라고요.
저희는 GPU 리소스가 그리 넉넉하지 않아서 LoRA 쪽으로 생각하고 있었는데, 품질 차이가 크면 어떻게 할지 고민입니다. 혹시 실제로 두 방식 다 써본 분 계신가요? 특히 도메인 특화 작업에서의 성능 차이가 궁금해요.
그리고 LoRA 랭크 설정할 때 주의할 점이나 팁이 있으면 공유 부탁드립니다. 예제 코드나 경험담이라도 좋습니다.
추천 0 비추천 0