최근에 자사 데이터로 AI 모델을 커스터마이징하려고 하는데, 파인튜닝과 RAG 중에 뭘 먼저 해야 할지 고민이 많네요. 둘 다 비용이 드는데 초기 단계에서는 어느 쪽이 더 효율적일까요?
현재는 GPT 4o API를 쓰고 있고, 우리 회사의 레거시 데이터가 꽤 방대해요. 근데 파인튜닝은 학습 비용이 크다고 해서 우선순위를 못 정하고 있습니다. RAG로 시작하면 충분할 것 같기도 하고, 정확도 때문에 파인튜닝이 필수일 것 같기도 하고요.
비슷한 상황에서 시작하신 분들 경험담 있으시면 정말 궁금해요. 어느 정도 규모까지는 RAG로 커버되더라는 의견도 있으면 좋겠습니다.
추천 2