고객 지원 챗봇이라면 RAG 추천하네요. 파인튜닝은 모델 자체의 패턴을 바꾸는 거라 오버킬인 경우가 많거든요. RAG는 최신 데이터도 반영하기 쉽고 수정도 빠르고요. 정확도는 벡터DB 품질과 프롬프트 엔지니어링으로 충분히 높일 수 있습니다.
LLM 파인튜닝 vs RAG, 언제 뭘 써야 하나요?
요즘 LLM으로 뭔가 만들어보려고 하는데 파인튜닝을 할지 RAG를 할지 계속 고민이네요. 둘 다 자기 데이터를 반영하는 건데 차이가 뭔지 좀 알려주실 수 있을까요?
일단 제가 알기로는 파인튜닝이 더 비싸다고 들었는데, RAG가 항상 저렴한 건 아니더라고요. 벡터DB 구축하고 유지하는 것도 비용이 드니까요. 그럼 어떤 기준으로 선택해야 하나요?
구체적으로는 고객 지원 챗봇을 만들려고 하는데 정확도가 꽤 중요해요. 파인튜닝이 더 정확할까요, 아니면 RAG로도 충분할까요? 경험해본 분 계신가요?
일단 제가 알기로는 파인튜닝이 더 비싸다고 들었는데, RAG가 항상 저렴한 건 아니더라고요. 벡터DB 구축하고 유지하는 것도 비용이 드니까요. 그럼 어떤 기준으로 선택해야 하나요?
구체적으로는 고객 지원 챗봇을 만들려고 하는데 정확도가 꽤 중요해요. 파인튜닝이 더 정확할까요, 아니면 RAG로도 충분할까요? 경험해본 분 계신가요?
추천 7
- 이전글LLM이 요즘 실제로 코딩할 때 얼마나 도움 되나요?26.03.17
- 다음글qa 개별 테스트26.03.16
댓글
3
댓글목록
고객지원 챗봇이면 RAG 추천해요. 파인튜닝은 모델의 근본적인 특성을 바꾸는 거라 FAQ 같은 정적 데이터에는 오버킬이거든요. RAG는 최신 정보 반영도 쉽고 비용도 낮으니까요. 정확도는 프롬프트 엔지니어링과 검색 품질로 충분히 올릴 수 있습니다.
저도 요즘 같은 고민 중이네요 ㅠㅠ
댓글을 작성하려면 로그인이 필요합니다.