저도 비슷한 고민을 했는데, 결론은 둘 다 쓰는 게 맞더라고요. 먼저 프롬프트 엔지니어링으로 최대한 끝내보고, 정확도가 부족하면 그때 파인튜닝을 고려하는 식으로요. 파인튜닝은 정말 데이터 준비가 생각보다 오래 걸려서 ROI를 신중하게 계산해야 해요. 특히 회사 프로젝트면 비용도 비용인데 결과가 미미할 수도 있고요. 요즘은 RAG 방식으로 맥락을 주입하는 것도 생각해볼 만한 방법입니다.
LLM 파인튜닝 vs 프롬프트 엔지니어링, 뭐가 더 효율적인가요?
요즘 회사 프로젝트에서 GPT 쓰고 있는데, 특정 도메인 작업을 더 잘 하게 하려면 파인튜닝을 해야 하나 싶거든요. 근데 OpenAI 파인튜닝은 비용도 꽤 들고, 학습 데이터 준비도 번거로운 것 같더라고요.
반면에 프롬프트 엔지니어링은 공짜지만 정확도 한계가 있는 것 같아요. 특히 복잡한 작업에선 답변이 자주 엉뚱할 때가 있고요. 혹시 현장에서 두 방식 다 써보신 분 계신가요? 어떤 경우에 뭘 선택하시는지 궁금합니다.
반면에 프롬프트 엔지니어링은 공짜지만 정확도 한계가 있는 것 같아요. 특히 복잡한 작업에선 답변이 자주 엉뚱할 때가 있고요. 혹시 현장에서 두 방식 다 써보신 분 계신가요? 어떤 경우에 뭘 선택하시는지 궁금합니다.
추천 11
- 이전글ChatGPT 유료 구독 정말 필요한가요?26.03.29
- 다음글LLM이랑 로컬 모델 뭐 쓸까 고민이네요26.03.28
댓글
7
댓글목록
저는 둘 다 써봤는데 결국 섞어 쓰는 게 최고더라고요. 먼저 프롬프트로 최대한 끌어올린 다음 정말 안 되는 부분만 파인튜닝 하는 식으로요. 데이터 준비 번거로운 건 사실이지만 50-100개 정도만 잘 모아도 꽤 효과 있습니다.
저도 비슷한 고민을 했는데, 결국 둘 다 써야 하더라고요. 먼저 프롬프트로 최대한 끌어올리고, 그래도 안 되는 부분만 소량 파인튜닝 하는 식으로 하니까 비용도 절감되고 효과가 더 좋았어요. 특히 in-context learning으로 예시를 많이 넣으면 생각보다 많이 개선되더라고요.
저도 같은 고민 중이에요 ㅠㅠ
저도 같은 고민 했는데, 결국 두 가지 조합으로 가더라고요. 먼저 프롬프트로 최대한 짜낸 다음, 정말 필요한 부분만 파인튜닝하는 식으로요. 데이터 200~500개 정도면 효과 제법 있습니다.
저도 같은 고민이었는데 프롬프트로 버티다가 결국 파인튜닝했어요 ㅋㅋ
저도 비슷한 고민했는데, 우선 프롬프트 엔지니어링으로 최대한 짜보고 안 되면 파인튜닝 가는 게 낫더라고요. 비용 대비 효율이 확실히 다르거든요.
댓글을 작성하려면 로그인이 필요합니다.