2026.05.07 접속자 11
로그인 회원가입
HOT
[프롬프트] 논문 읽을 때 유용한 프롬프트 공유합니다 [AI뉴스] 요즘 AI 연구는 "모델 크기 늘리기" 끝, 시스템 효율성으로 가는 중 [프롬프트] 일상 업무 자동화하는 프롬프트 패턴 찾았어요 [AI뉴스] 요즘 GPT-6 출시 소식 들으셨어요? 아직 안 나왔다더라고요 [AI뉴스] 앤스로픽 기업가치 1338조? 오픈AI 추월한다며 어마어마하네요 [프롬프트] 챗봇한테 물어볼 때 이렇게 프롬프트 짜니까 답이 훨씬 낫더라고요 [프롬프트] AI한테 물어볼 때 뭐가 제일 잘 나오는 프롬프트 있나요? [프롬프트] 코드 리뷰 프롬프트 이거 써봤는데 꽤 괜찮더라고요 [AI뉴스] 요즘 LLM 시장 뭔가 수상한데... 꼭 좋기만 한 게 아니네요 [AI뉴스] 2026년 AI 뭐가 핫한가... 요즘 뉴스 정리했습니다 [프롬프트] 논문 읽을 때 유용한 프롬프트 공유합니다 [AI뉴스] 요즘 AI 연구는 "모델 크기 늘리기" 끝, 시스템 효율성으로 가는 중 [프롬프트] 일상 업무 자동화하는 프롬프트 패턴 찾았어요 [AI뉴스] 요즘 GPT-6 출시 소식 들으셨어요? 아직 안 나왔다더라고요 [AI뉴스] 앤스로픽 기업가치 1338조? 오픈AI 추월한다며 어마어마하네요 [프롬프트] 챗봇한테 물어볼 때 이렇게 프롬프트 짜니까 답이 훨씬 낫더라고요 [프롬프트] AI한테 물어볼 때 뭐가 제일 잘 나오는 프롬프트 있나요? [프롬프트] 코드 리뷰 프롬프트 이거 써봤는데 꽤 괜찮더라고요 [AI뉴스] 요즘 LLM 시장 뭔가 수상한데... 꼭 좋기만 한 게 아니네요 [AI뉴스] 2026년 AI 뭐가 핫한가... 요즘 뉴스 정리했습니다
파인튜닝

요즘 LLM 파인튜닝 어떻게 하시는데요?

딥러너 2026.05.07 14:29 조회 1 추천 0 댓글 0건
최근에 회사에서 특정 도메인용 모델을 만들어야 하는데 파인튜닝 방향을 못 잡고 있네요. 기존엔 GPT-3.5 API 쓰다가 비용도 줄이고 컨트롤도 더 하려고 오픈소스 모델로 가려는 상황이거든요.

Llama 2 기반으로 LoRA 적용해볼까 싶긴 한데 정확도를 얼마나 확보할 수 있을지 걱정이에요. 사실 QLoRA도 있긴 한데 A100 몇 개 없이 4090으로 학습하기엔 한계가 있을 것 같고요. 혹시 요즘 프로덕션에서 쓰는 실제 방법이 뭔지 궁금합니다.

데이터셋은 그나마 10만 개 정도 확보했으니 충분할 거 같은데 전처리가 제일 힘드네요 ㅠㅠ
추천 0 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!