프로젝트에서 GPT-4 쓰다가 요청량이 늘어나니까 비용이 장난 아니네요. 월 100달러 정도 나오는데 스타트업 입장에선 좀 부담되거든요. 혹시 토큰 제한 두거나 다른 모델 조합해서 쓰시는 분들 계신가요?
클로드 API도 알아보고 있는데, 실제로 써본 분 있으면 가성비 평가 좀 부탁드립니다. 응답 품질이 다소 떨어져도 가격이 훨씬 싸면 그걸로 가도 괜찮을 것 같기도 하고요.
아니면 로컬 LLM 돌리는 게 진짜 답인 건지 모르겠어요. 초기 셋업만 힘들지 운영비는 거의 없으니까요. 다들 어떻게 하고 있는지 궁금하네요.
추천 1 비추천 0