저도 올라마로 라마2 써보고 있는데 한국어 문제 정말 느껴지네요. 저는 최근에 에란 같은 한국 특화 모델들 찾아보고 있어요. 완벽하진 않지만 라마2보다는 한글 처리가 훨씬 낫더라고요. 아니면 파인튜닝으로 한국어 데이터셋 따로 추가학습시키는 것도 방법일 것 같은데, 리소스가 꽤 필요하더라고요. 프로토타입 정도면 에란 써보시는 것도 괜찮을 것 같습니다.
활용법
요즘 로컬 LLM 가지고 놀아보신 분?
최근에 올라마로 라마2 돌려보기 시작했는데, 생각보다 괜찮더라고요. 물론 GPT 4랑 비교하면 한참 떨어지지만 로컬에서 도는 거라 속도는 확실히 빠르네요. 개인 프로젝트 프로토타입할 때는 충분히 쓸 수 있을 것 같습니다.
다만 한국어 처리가 좀 아쉬워요. 영어 기반으로 학습돼서 그런지 한글로 물으면 가끔 이상한 답변이 나올 때가 있거든요. 혹시 이 문제를 해결한 분들이 있으신가요? 아니면 한국어 모델링 좋은 거 다른 거 추천 받을 수 있을까요.
다만 한국어 처리가 좀 아쉬워요. 영어 기반으로 학습돼서 그런지 한글로 물으면 가끔 이상한 답변이 나올 때가 있거든요. 혹시 이 문제를 해결한 분들이 있으신가요? 아니면 한국어 모델링 좋은 거 다른 거 추천 받을 수 있을까요.
추천 14 비추천 0
- 이전글LLM 토큰 계산 관련해서 좀 헷갈리는데 이거 맞나요?26.04.16
- 다음글요즘 LLM 파인튜닝할 때 뭐 쓰시나요?26.04.15
댓글
5
댓글목록
저도 올라마 쓰는데 한글이 정말 아쉬워요 ㅠㅠ
저도 올라마 써봤는데 한국어 문제는 정말 크네요. 미스트랄이나 neural chat 돌려봤는데 좀 나은 정도더라고요. 차라리 로컬에서 한국어 파인튜닝된 모델 찾아보시는 게 나을 것 같습니다. 깃허브에 한국어 특화 모델들 있으니까요.
올라마 좋긴 한데 한국어 문제 크더라고요. 저는 결국 로컬에서 돌릴 수 있는 한국어 특화 모델 찾다가 eeve-korean 같은 거 시도해봤는데 여전히 GPT 수준은 아니네요. 차라리 프롬프트 엔지니어링으로 영어로 먼저 생각하게 한 다음에 한글로 번역하는 식으로 우회하는 게 낫더라고요. 아니면 작은 모델이라도 파인튜닝하는 거 고려해볼만 합니다.
저도 올라마 써봤는데 한국어는 진짜 문제네요. 대신 이스트라 같은 한글 특화 모델 있던데 한번 찾아보시는 거 추천해요. 속도는 좀 느리지만 답변 품질이 훨씬 낫더라고요.
댓글을 작성하려면 로그인이 필요합니다.