최근에 자사 데이터로 LLM을 파인튜닝해야 할 일이 생겼는데, LoRA로 할지 풀 파인튜닝으로 할지 고민이 많네요. 찾아본 자료들은 대부분 이론적인 설명만 있고 실제로 어떤 상황에서 뭘 써야 하는지는 잘 안 나와있더라고요.
지금 상황은 7B 모델(라마2)로 약 50만 토큰 정도의 도메인 특화 데이터가 있고, GPU는 RTX 4090이 2개 있어서 어느 정도 리소스는 괜찮은 상태입니다. 회사에서는 빠르게 프로토타입을 만들고 싶어하는데, 성능도 그럭저럭 괜찮아야 해요. 지금까지 LoRA는 안 써봤고 전부 풀 파인튜닝만 해봤거든요.
찾아본 걸 정리하면 LoRA는 학습 속도는 빠르고 메모리도 덜 쓴다고 하는데, 성능 손실이 있을 수 있다고 하더라고요. 반대로 풀 파인튜닝은 성능은 좋을 것 같은데 시간과 비용이 좀 걸릴 것 같아요. 제 상황에서는 어떤 걸 추천하시나요?
혹시 두 방식 다 써보신 분 있으시면 실제 경험담을 좀 들려줄 수 있을까요? 특히 도메인 적응 측면에서 성능 차이가 실제로 얼마나 크게 나는지가 궁금합니다. 시간이 조금 있으니 여러 방식 시도해볼 수도 있을 것 같긴 한데, 어디서부터 시작하는 게 효율적일지 모르겠어요.