저도 요즘 같은 상황인데 LoRA부터 시작하니까 훨씬 낫더라고요 ㅎㅎ
LLM 파인튜닝 처음 하는데 어디서 시작해야 할까요?
회사에서 GPT 같은 모델을 우리 데이터로 커스터마이징해야 하는데 어떻게 접근해야 할지 헷갈리네요. 지금까지는 API만 써봤거든요.
LoRA니 QLoRA니 하는 얘기는 들었는데 정확히 뭐가 다른 건지 모르겠어요. 혹시 Hugging Face에서 간단한 튜토리얼 같은 거 있나요? 일단 작은 데이터셋으로 한번 돌려보고 싶은데 GPU 메모리 부족할까봐 걱정되네요.
비슷하게 시작하신 분들 있으면 경험담 좀 나눠주세요. 특히 실패했던 부분이나 처음부터 알았으면 좋았을 팁 같은 거요.
LoRA니 QLoRA니 하는 얘기는 들었는데 정확히 뭐가 다른 건지 모르겠어요. 혹시 Hugging Face에서 간단한 튜토리얼 같은 거 있나요? 일단 작은 데이터셋으로 한번 돌려보고 싶은데 GPU 메모리 부족할까봐 걱정되네요.
비슷하게 시작하신 분들 있으면 경험담 좀 나눠주세요. 특히 실패했던 부분이나 처음부터 알았으면 좋았을 팁 같은 거요.
추천 1
- 이전글ChatGPT vs Claude 뭐가 더 낫나요?26.10.28
- 다음글LLM 파인튜닝 진짜 필요한가요? 소규모 프로젝트엔 오버킬 아닌가26.10.28