2026.05.08 접속자 19
로그인 회원가입
HOT
[AI뉴스] 앤스로픽 기업가치 1338조? 오픈AI 추월한다며 어마어마하네요 [프롬프트] AI한테 물어볼 때 뭐가 제일 잘 나오는 프롬프트 있나요? [프롬프트] 챗봇한테 물어볼 때 이렇게 프롬프트 짜니까 답이 훨씬 낫더라고요 [프롬프트] 코드 리뷰 프롬프트 이거 써봤는데 꽤 괜찮더라고요 [AI뉴스] 요즘 LLM 시장 뭔가 수상한데... 꼭 좋기만 한 게 아니네요 [AI뉴스] 2026년 AI 뭐가 핫한가... 요즘 뉴스 정리했습니다 [프롬프트] LLM한테 역할 지정하는 프롬프트 패턴 공유합니다 [프롬프트] 코드 리뷰 프롬프트 이거 써보니 효과 확실하네요 [AI뉴스] 한국, 내년 1월부터 AI 규제 전면 시행... 우리가 먼저 한다고요? [자유게시판] 요즘 직장에서 점심시간 혼자 먹는 게 더 편한데 이상한가요 [AI뉴스] 앤스로픽 기업가치 1338조? 오픈AI 추월한다며 어마어마하네요 [프롬프트] AI한테 물어볼 때 뭐가 제일 잘 나오는 프롬프트 있나요? [프롬프트] 챗봇한테 물어볼 때 이렇게 프롬프트 짜니까 답이 훨씬 낫더라고요 [프롬프트] 코드 리뷰 프롬프트 이거 써봤는데 꽤 괜찮더라고요 [AI뉴스] 요즘 LLM 시장 뭔가 수상한데... 꼭 좋기만 한 게 아니네요 [AI뉴스] 2026년 AI 뭐가 핫한가... 요즘 뉴스 정리했습니다 [프롬프트] LLM한테 역할 지정하는 프롬프트 패턴 공유합니다 [프롬프트] 코드 리뷰 프롬프트 이거 써보니 효과 확실하네요 [AI뉴스] 한국, 내년 1월부터 AI 규제 전면 시행... 우리가 먼저 한다고요? [자유게시판] 요즘 직장에서 점심시간 혼자 먹는 게 더 편한데 이상한가요

처음 LLM 파인튜닝 시도했는데 뭔가 이상한데...

흐름타는개발자 2026.04.21 21:57 조회 29 추천 3 댓글 0건
최근에 작은 데이터셋으로 오픈소스 모델 파인튜닝을 해봤는데 결과가 예상과 좀 달랐네요. 학습 손실은 계속 떨어지는데 실제 추론할 때는 그렇게까지 좋지 않더라고요. 혹시 과적합이 심한 건가 싶기도 하고요.

배치 크기랑 러닝레이트를 조정해봐도 비슷한 경향이 있어서 좀 답답합니다. 더 큰 데이터셋이 필요한 건지, 아니면 제가 뭔가 놓친 게 있는 건지 모르겠거든요. 혹시 비슷한 경험 있으신 분들 있으면 어떻게 해결했는지 궁금합니다.
추천 3
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!