요즘 LLM 프로젝트를 진행 중인데 고민이 생겼거든요. 지금까지는 프롬프트 엔지니어링으로 어느 정도 원하는 결과를 뽑고 있는데, 정확도가 70% 정도에서 잘 안 올라가더라고요.
팀 내에서는 파인튜닝을 해야 하는 거 아니냐고 하는데, 저는 좋은 프롬프트를 더 만들면 충분할 것 같거든요. 실제로 파인튜닝을 해본 분들은 어느 정도 성능 향상이 있으셨나요? 비용 대비 효과가 정말 있을까요.
참고로 저희는 지금 GPT-4 API를 쓰고 있고, 도메인 특화 데이터가 약 5000개 정도 있습니다. 어느 방향이 나을 것 같은지 의견 들어보고 싶습니다.
추천 0 비추천 0