저도 올라마로 라마2 써보고 있는데 한국어 문제 정말 느껴지네요. 저는 최근에 에란 같은 한국 특화 모델들 찾아보고 있어요. 완벽하진 않지만 라마2보다는 한글 처리가 훨씬 낫더라고요. 아니면 파인튜닝으로 한국어 데이터셋 따로 추가학습시키는 것도 방법일 것 같은데, 리소스가 꽤 필요하더라고요. 프로토타입 정도면 에란 써보시는 것도 괜찮을 것 같습니다.
활용법
요즘 로컬 LLM 가지고 놀아보신 분?
최근에 올라마로 라마2 돌려보기 시작했는데, 생각보다 괜찮더라고요. 물론 GPT 4랑 비교하면 한참 떨어지지만 로컬에서 도는 거라 속도는 확실히 빠르네요. 개인 프로젝트 프로토타입할 때는 충분히 쓸 수 있을 것 같습니다.
다만 한국어 처리가 좀 아쉬워요. 영어 기반으로 학습돼서 그런지 한글로 물으면 가끔 이상한 답변이 나올 때가 있거든요. 혹시 이 문제를 해결한 분들이 있으신가요? 아니면 한국어 모델링 좋은 거 다른 거 추천 받을 수 있을까요.
다만 한국어 처리가 좀 아쉬워요. 영어 기반으로 학습돼서 그런지 한글로 물으면 가끔 이상한 답변이 나올 때가 있거든요. 혹시 이 문제를 해결한 분들이 있으신가요? 아니면 한국어 모델링 좋은 거 다른 거 추천 받을 수 있을까요.
추천 14 비추천 0
- 이전글LLM 토큰 계산 관련해서 좀 헷갈리는데 이거 맞나요?26.04.16
- 다음글요즘 LLM 파인튜닝할 때 뭐 쓰시나요?26.04.15
댓글
8
댓글목록
저도 올라마 쓰는데 한글이 정말 아쉬워요 ㅠㅠ
저도 올라마 써봤는데 한국어 문제는 정말 크네요. 미스트랄이나 neural chat 돌려봤는데 좀 나은 정도더라고요. 차라리 로컬에서 한국어 파인튜닝된 모델 찾아보시는 게 나을 것 같습니다. 깃허브에 한국어 특화 모델들 있으니까요.
올라마 좋긴 한데 한국어 문제 크더라고요. 저는 결국 로컬에서 돌릴 수 있는 한국어 특화 모델 찾다가 eeve-korean 같은 거 시도해봤는데 여전히 GPT 수준은 아니네요. 차라리 프롬프트 엔지니어링으로 영어로 먼저 생각하게 한 다음에 한글로 번역하는 식으로 우회하는 게 낫더라고요. 아니면 작은 모델이라도 파인튜닝하는 거 고려해볼만 합니다.
저도 올라마 써봤는데 한국어는 진짜 문제네요. 대신 이스트라 같은 한글 특화 모델 있던데 한번 찾아보시는 거 추천해요. 속도는 좀 느리지만 답변 품질이 훨씬 낫더라고요.
한국어 모델은 Bllossom이나 Mistral 기반 한국어 파인튜닝 모델들 써보세요. 라마2보다 한글 처리가 훨씬 낫더라고요. 다만 영어는 좀 떨어지는 트레이드오프가 있긴 합니다. 프로토타입용이면 충분할 것 같네요.
저도 올라마 써봤는데 한글 문제 심하더라고요. 미스트랄이나 노모 같은 모델들도 결국 영어 위주라 크게 나아지지 않았어요.
차라리 한국 기업들이 공개한 모델 찾아보시는 게 낫습니다. 업스테이지의 솔라나 카카오브레인 모델들은 한글 처리가 상당히 나아요. 물론 라마 시리즈보다 리소스 더 먹긴 하지만 한글 품질이 중요하시면 추천드립니다.
차라리 한국 기업들이 공개한 모델 찾아보시는 게 낫습니다. 업스테이지의 솔라나 카카오브레인 모델들은 한글 처리가 상당히 나아요. 물론 라마 시리즈보다 리소스 더 먹긴 하지만 한글 품질이 중요하시면 추천드립니다.
한국어 처리는 코스모스 같은 한국어 특화 모델 써보셨나요? 올라마에서도 돌아가는데 라마2보다는 훨씬 나아요 ㅎㅎ
댓글을 작성하려면 로그인이 필요합니다.