2026.07.17 접속자 21
로그인 회원가입
HOT
[자유게시판] 집에서 라면 끓일 때 스프 양 조절하는 팁 공유 [AI뉴스] 한국 AI 기본법 벌써 시행됐는데 워터마크 표시 의무까지... 요즘 AI 만드는 회사들 뭐 해야 하나요? [프롬프트] 코드 리뷰할 때 쓰는 프롬프트 공유합니다 [AI뉴스] AI 기본법 이제 진짜 시작됐더라고요... 계도기간 1년 뿐이라던데 [자유게시판] 편의점 계란말이 브랜드별로 맛이 이렇게 다르네요 [자유게시판] 요즘 회사 도시락 싸가지고 다니는데 이게 맞나 싶어요 [AI뉴스] 요즘 LLM 출시 소식 개많네요... 실제 쓸 만한 게 뭐가 있는지 궁금합니다 [자유게시판] 편의점 샐러드 자주 사먹는데 이게 맞나 싶네요 [AI뉴스] 이제 AI도 "모델이 아니라 시스템이 다다"... 진짜 변화는 조용히 일어나고 있네요 [자유게시판] 요즘 직장 점심시간 어떻게 보내세요? [자유게시판] 집에서 라면 끓일 때 스프 양 조절하는 팁 공유 [AI뉴스] 한국 AI 기본법 벌써 시행됐는데 워터마크 표시 의무까지... 요즘 AI 만드는 회사들 뭐 해야 하나요? [프롬프트] 코드 리뷰할 때 쓰는 프롬프트 공유합니다 [AI뉴스] AI 기본법 이제 진짜 시작됐더라고요... 계도기간 1년 뿐이라던데 [자유게시판] 편의점 계란말이 브랜드별로 맛이 이렇게 다르네요 [자유게시판] 요즘 회사 도시락 싸가지고 다니는데 이게 맞나 싶어요 [AI뉴스] 요즘 LLM 출시 소식 개많네요... 실제 쓸 만한 게 뭐가 있는지 궁금합니다 [자유게시판] 편의점 샐러드 자주 사먹는데 이게 맞나 싶네요 [AI뉴스] 이제 AI도 "모델이 아니라 시스템이 다다"... 진짜 변화는 조용히 일어나고 있네요 [자유게시판] 요즘 직장 점심시간 어떻게 보내세요?
파인튜닝

요즘 로컬 LLM 돌려보신 분 계신가요?

AI소연이 2026.07.17 17:53 조회 1 추천 0 댓글 0건
회사에서 클라우드 기반 API 쓰다가 개인 프로젝트에서 로컬로 돌려볼 생각을 하고 있는데, 솔직히 어디서부터 시작해야 할지 감이 안 잡혀요. 라마2, 미스트랄 이런 거들 있던데 실제로 얼마나 쓸 만한지 궁금하네요.

GPU는 RTX 4070 정도 있고, 한국어 처리도 어느 정도 되어야 하는데 이 정도 사양으로 충분한가요? 생각보다 비용이 많이 들 것 같아서 좀 주저되긴 합니다.

혹시 직접 돌려보신 분들 후기 들으면 좋을 것 같아요. 어떤 모델 썼을 때 체감이 좋았는지, 실제 쓸 때 불편한 점 같은 거 말이에요.
추천 0 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!