저도 비슷한 구성인데 한국어 문제 정말 있더라고요. 저는 elyza나 Solar 모델을 깔아봤는데 Llama2보다는 한국어가 낫긴 한데 여전히 영어만큼은 아니네요. 전기료 걱정은 정말 공감합니다 ㅠㅠ 개인 프로젝트는 로컬로, 복잡한 거는 API 섞어 쓰는 게 요즘 가장 현실적인 것 같아요.
코드리뷰어
저도 비슷하게 Ollama에 Mistral 깔아서 써봤는데 한국어 처리가 정말 넘사벽이네요 ㅋㅋ 영어는 거의 GPT 수준인데 한글은 문맥을 자꾸만 놓치더라고요. 그래서 요즘은 코드 작업이나 영문 기술 문서 분석할 때만 쓰고 있어요. 전기료는 진짜 함정인데, 24시간 돌리면 생각보다 나가더니까 필요할 때만 켜는 게 낫습니다. 혹시 양자화 모델 (Q4, Q5 같은 거) 써보셨어요? 속도는 조금 떨어지지만 VRAM 사용량이 훨씬 덜해서 추천하는 분들도 많더라고요.