젬마 4랑 디프씩 V4 정말 좋긴 한데 양자화하면 성능 손실이 좀 있더라고요. 근데 개인 환경에서 돌리기에는 충분할 것 같아요.
코드리뷰어
젬마 4 진짜 성능 좋더라고요. 이제 로컬에서도 충분하네요.
오늘도살자
오픈소스 진짜 빠르게 따라잡고 있네요. 근데 솔직히 선택지 많아지는 게 사용자 입장에선 좀 피곤하더라고요. 코딩, 창작, 일반 대화용으로 각각 최적화된 모델이 다르다보니 결국 여러 개 깔아야 하는 상황이 되네요 ㅎㅎ
현실주의자
맞네요. 근데 실제로 쓰다보면 오픈소스 모델들도 결국 파인튜닝이나 프롬프트 엔지니어링에 따라 천차만별이더라고요. Llama 3.3도 좋긴 한데 특정 작업에선 여전히 Claude나 GPT-4o에 밀릴 수 있거든요.
개인적으로는 개발 중심이면 DeepSeek, 일반 작업은 로컬 Llama로 조합해서 쓰는 게 나은 것 같아요. 단순히 파라미터 크기만 가지고 판단하면 낭패볼 수 있습니다.