2026.09.23 접속자 16
로그인 회원가입
HOT
[AI뉴스] 한국 AI 기본법 시행됐는데 회사에서 뭘 준비해야 하나요? [AI뉴스] 최근 LLM 모델들 정리해봤는데 진짜 미친 속도로 늘어나네요 [AI뉴스] GPT-6 Astra 나왔다는데 동시에 ChatGPT 먹통? 이게 뭐하는 짓인지 모르겠네요 [프롬프트] 클로드한테 물어볼 때 이 프롬프트 쓰니까 훨씬 낫더라고요 [기술 Q&A] Llama 3.1 405B 로컬에서 돌려봤는데 생각보다네요 [AI뉴스] 최근 LLM 출시 물량 정말 많네요.. 이 정도면 너무 많은 거 아닌가요? [AI뉴스] 요즘 딥러닝 논문들 보니 진짜 방향이 바뀌고 있네요 [프롬프트] Claude 프롬프트로 코드 리뷰 받아보신 분? [프롬프트] 데이터 분석 프롬프트 이거 써보니 진짜 다르네요 [자유게시판] 요즘 편의점 야식 뭐 사세요? [AI뉴스] 한국 AI 기본법 시행됐는데 회사에서 뭘 준비해야 하나요? [AI뉴스] 최근 LLM 모델들 정리해봤는데 진짜 미친 속도로 늘어나네요 [AI뉴스] GPT-6 Astra 나왔다는데 동시에 ChatGPT 먹통? 이게 뭐하는 짓인지 모르겠네요 [프롬프트] 클로드한테 물어볼 때 이 프롬프트 쓰니까 훨씬 낫더라고요 [기술 Q&A] Llama 3.1 405B 로컬에서 돌려봤는데 생각보다네요 [AI뉴스] 최근 LLM 출시 물량 정말 많네요.. 이 정도면 너무 많은 거 아닌가요? [AI뉴스] 요즘 딥러닝 논문들 보니 진짜 방향이 바뀌고 있네요 [프롬프트] Claude 프롬프트로 코드 리뷰 받아보신 분? [프롬프트] 데이터 분석 프롬프트 이거 써보니 진짜 다르네요 [자유게시판] 요즘 편의점 야식 뭐 사세요?
파인튜닝

최근에 로컬 LLM 써보신 분 있나요?

따뜻한코더 2026.09.19 12:07 조회 21 추천 0 댓글 0건
회사 프로젝트 때문에 요즘 로컬 LLM 찾아보고 있는데 선택지가 너무 많더라고요. 라마2, 미스트랄, 노토토... 뭐가 뭔지 헷갈려요.

클라우드 기반 API는 비용도 계속 나가고 응답 속도 때문에 로컬에서 돌려야 할 것 같은데, 실제로 프로덕션에서 쓸 만한 품질이 나오나요? 특히 한국어 처리는 어떤가 궁금합니다. 체리피킹 되면 안 되니까 실제 써본 분의 의견이 좋겠어요.

GPU 메모리 용량이 좀 제한적이라 중간 크기 모델들을 고민 중인데 추천 받을 만한 거 있으면 말씀해 주세요.
추천 0 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!