회사에서 우리 도메인 데이터로 GPT-4 파인튜닝을 시도해봤는데 생각보다 비용이 많이 나오더라고요. 토큰당 가격이 일반 API 사용이랑 비교하면 훨씬 높은데, 실제로 그 정도 차이가 있는 건가요?
문서 검색 기반의 RAG로 처리할 수 있을 것 같은데 굳이 파인튜닝까지 할 필요가 있는지 고민 중입니다. 혹시 같은 상황에서 결정해보신 분 있으면 어떻게 하셨는지 궁금해요. 특히 성능 vs 비용 측면에서 어느 정도 개선이 있어야 정당화된다고 보시는지요.
추천 0 비추천 0