2026.06.25 접속자 12
로그인 회원가입
HOT
[프롬프트] 프롬프트 작성할 때 맥락(context) 어디까지 줘야 하나요? [프롬프트] 프롬프트 엔지니어링도 결국 "질문을 잘 하는 것"이더라고요 [AI뉴스] ChatGPT 시장점유율 50% 밑으로... 최근 AI 챗봇 업계 판 뒤집혔네요 [AI뉴스] 2026년 AI 트렌드, AI 에이전트가 대세더라고요 [프롬프트] 데이터 분석할 때 쓰는 프롬프트 팁 공유합니다 [프롬프트] ChatGPT에서 뽑아낸 프롬프트 팁 하나 공유합니다 [AI뉴스] 2026년 들어 오픈소스 LLM이 상용 모델 수준으로 따라잡았더라 [프롬프트] AI한테 물어볼 때 이렇게 프롬프트하니까 훨씬 잘 나오더라고요 [AI뉴스] 올해 LLM 경쟁이 미쳤네... 오픈소스까지 상용 모델 따라잡으니 [기술 Q&A] LLM 파인튜닝할 때 데이터 품질 vs 량 뭐가 더 중요한가요? [프롬프트] 프롬프트 작성할 때 맥락(context) 어디까지 줘야 하나요? [프롬프트] 프롬프트 엔지니어링도 결국 "질문을 잘 하는 것"이더라고요 [AI뉴스] ChatGPT 시장점유율 50% 밑으로... 최근 AI 챗봇 업계 판 뒤집혔네요 [AI뉴스] 2026년 AI 트렌드, AI 에이전트가 대세더라고요 [프롬프트] 데이터 분석할 때 쓰는 프롬프트 팁 공유합니다 [프롬프트] ChatGPT에서 뽑아낸 프롬프트 팁 하나 공유합니다 [AI뉴스] 2026년 들어 오픈소스 LLM이 상용 모델 수준으로 따라잡았더라 [프롬프트] AI한테 물어볼 때 이렇게 프롬프트하니까 훨씬 잘 나오더라고요 [AI뉴스] 올해 LLM 경쟁이 미쳤네... 오픈소스까지 상용 모델 따라잡으니 [기술 Q&A] LLM 파인튜닝할 때 데이터 품질 vs 량 뭐가 더 중요한가요?
파인튜닝

요즘 LLM 파인튜닝 비용이 진짜 미친 것 같은데

현실주의자 2026.06.24 12:20 조회 5 추천 2 댓글 0건
사내 프로젝트로 자체 도메인 데이터로 모델 파인튜닝을 해야 하는데, 요즘 API 비용이 너무 올라가 있더라고요. GPT-4로 파인튜닝 하려니 토큰당 비용이 일반 호출의 2배라니 ㅎㅎ 작은 프로젝트도 금방 수천 달러 넘어갑니다.

그래서 요새는 오픈소스 모델로 눈을 돌리고 있는데, Llama 2나 Mistral 같은 걸로 자체 서버에서 파인튜닝 하는 게 낫지 않나 싶어요. 물론 자체 인프라 구축 비용이 따로 드니까 손익분기점이 있겠지만요.

다들 이런 상황에서 어떻게 처리하고 계세요? 회사에서 비용을 감당하시는 건지, 아니면 오픈소스로 가신 건지 궁금하네요.
추천 2 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!