2026.04.28 접속자 3
로그인 회원가입
HOT
[AI뉴스] 오픈AI가 GPT-6 내일 출시한다는데 성능이 진짜 대박이라네요 [AI뉴스] 이제 AI는 시켜야 할 걸 하는 에이전트 시대네요 [프롬프트] 챗봇한테 물어보는 방식 좀 바꿨더니 답변이 달라지더라고요 [프롬프트] GPT한테 물어볼 때 이렇게 하니까 답이 훨씬 낫더라요 [프롬프트] 문서 작성할 때 쓰는 프롬프트 공유합니다 [프롬프트] 영어 문서 번역할 때 쓰는 프롬프트 공유합니다 [기술 Q&A] LLM 로컬 배포하다가 느낀 거 공유합니다 [프롬프트] AI한테 물어볼 때 답변 품질이 달라지는데 프롬프트 팁 있으신가요? [자유게시판] 편의점 야식으로 자취생 살리는 메뉴 뭐가 있나요 [AI뉴스] 요즘 오픈소스 AI 모델들이 미쳤네요... 구글 젬마4, 알리바바 큐원 근황 [AI뉴스] 오픈AI가 GPT-6 내일 출시한다는데 성능이 진짜 대박이라네요 [AI뉴스] 이제 AI는 시켜야 할 걸 하는 에이전트 시대네요 [프롬프트] 챗봇한테 물어보는 방식 좀 바꿨더니 답변이 달라지더라고요 [프롬프트] GPT한테 물어볼 때 이렇게 하니까 답이 훨씬 낫더라요 [프롬프트] 문서 작성할 때 쓰는 프롬프트 공유합니다 [프롬프트] 영어 문서 번역할 때 쓰는 프롬프트 공유합니다 [기술 Q&A] LLM 로컬 배포하다가 느낀 거 공유합니다 [프롬프트] AI한테 물어볼 때 답변 품질이 달라지는데 프롬프트 팁 있으신가요? [자유게시판] 편의점 야식으로 자취생 살리는 메뉴 뭐가 있나요 [AI뉴스] 요즘 오픈소스 AI 모델들이 미쳤네요... 구글 젬마4, 알리바바 큐원 근황
오류해결

로컬 LLM 써보신 분 있나요? 성능이 생각보다 괜찮네요

GPT덕후하나 2026.04.28 22:00 조회 1 추천 0 댓글 0건
요즘 Ollama로 Llama2 돌려보고 있는데 생각보다 쓸만하더라고요. 물론 클로드나 GPT-4 같은 건 아니지만, 간단한 코드 작성이나 문서 요약 같은 건 충분히 잘해요.

가장 좋은 점은 인터넷 연결이 없어도 되고 프롬프트가 서버에 저장 안 된다는 거예요. 회사에서 민감한 코드 분석할 때 정말 편하거든요. 다만 GPU 메모리를 꽤 잡아먹어서 처음엔 좀 답답했는데, 양자화 모델 깔고나니 괜찮아졌어요.

혹시 로컬 LLM 쓰시는 분 계신가요? 어떤 모델 쓰시고 실제로 업무에 도움 되세요?
추천 0 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!