LLM 파인튜닝 vs RAG, 실제로는 어느 쪽이 낫나요?

회사에서 고객 상담용 챗봇을 만들고 있는데 요구사항이 자꾸 바뀌면서 고민이 많네요. 처음엔 GPT-4 API를 그냥 쓰려다가, 우리 회사의 특정 도메인 지식을 더 잘 이해시키려면 파인튜닝을 해야 하는 거 아니냐는 의견이 나왔거든요.

근데 알아보니 파인튜닝도 결국 비용이 만만치 않고, 최근 트렌드는 RAG가 더 나은 방법이라고 하더라고요. 벡터 DB에 우리 문서들을 다 넣고 쿼리할 때마다 관련 정보를 가져와서 프롬프트에 포함시키는 방식 말이에요. 기술적으로는 이해가 되는데 실무에선 어떨까 싶어서요.

우리 경우엔 상담 내용이 꽤 길고, 고객마다 상황이 다르게 들어오는데 RAG로 충분할까요? 파인튜닝이 필요한 케이스가 따로 있는 건지도 궁금하고요. 둘을 조합해서 쓰는 경우도 있던데 그러면 관리 포인트가 너무 많아질 것 같기도 하네요.

지금 우리 팀은 기술 스택이 Python, FastAPI, OpenAI API 정도로 심플한데, 너무 복잡한 솔루션은 피하고 싶어요. 실제로 비슷한 프로젝트 진행하신 분들이 있으면 어떻게 접근하셨는지 들어보고 싶습니다. 특히 ROI 관점에서 어떤 선택이 맞을까요?