2026.06.17 접속자 16
로그인 회원가입
HOT
[AI뉴스] 앤트로픽 클로드 페이블 5 출시됐네요... 인간 전문가 수준이라고? [AI뉴스] 요즘 AI가 달라졌대요... 뭐가 계속 바뀌는 거죠? [프롬프트] 클로드한테 요구사항 정확하게 전달하는 프롬프트 팁 있나요? [프롬프트] 시장 분석할 때 쓰는 프롬프트 공유합니다 [기술 Q&A] LLM 파인튜닝할 때 토큰 수 줄이는 방법 뭐 하세요? [AI뉴스] 국내 AI 기본법 시행됐는데 이게 실제로 뭐가 달라지는 건가요? [기술 Q&A] LLM 파인튜닝 할 때 LoRA 말고 다른 방법 써보신 분? [기술 Q&A] 최근에 RAG 구현해보신 분들 어떤 벡터DB 쓰세요? [AI뉴스] OpenAI가 IPO 신청했대요... 1조 달러 목표면 진짜 어마하네요 [프롬프트] GPT한테 물어보는 방식 바꿨더니 답변이 완전 달라졌어요 [AI뉴스] 앤트로픽 클로드 페이블 5 출시됐네요... 인간 전문가 수준이라고? [AI뉴스] 요즘 AI가 달라졌대요... 뭐가 계속 바뀌는 거죠? [프롬프트] 클로드한테 요구사항 정확하게 전달하는 프롬프트 팁 있나요? [프롬프트] 시장 분석할 때 쓰는 프롬프트 공유합니다 [기술 Q&A] LLM 파인튜닝할 때 토큰 수 줄이는 방법 뭐 하세요? [AI뉴스] 국내 AI 기본법 시행됐는데 이게 실제로 뭐가 달라지는 건가요? [기술 Q&A] LLM 파인튜닝 할 때 LoRA 말고 다른 방법 써보신 분? [기술 Q&A] 최근에 RAG 구현해보신 분들 어떤 벡터DB 쓰세요? [AI뉴스] OpenAI가 IPO 신청했대요... 1조 달러 목표면 진짜 어마하네요 [프롬프트] GPT한테 물어보는 방식 바꿨더니 답변이 완전 달라졌어요
프롬프트

로컬 LLM 처음 써봤는데 생각보다 쓸만하네요

따뜻한코더 2026.06.17 21:49 조회 1 추천 0 댓글 0건
요즘 클로드나 GPT 구독료가 늘어나다 보니 로컬 LLM 한번 써봤어요. Ollama로 Llama2 깔아서 돌려봤는데 첫 느낌은 "어? 이 정도면 괜찮은데?"였어요. 특히 코드 리뷰나 간단한 문서 작성할 때는 온라인 모델이랑 거의 차이를 못 느꼈거든요.

다만 한국어 처리는 아직 아쉬운 부분이 더라고요. 프롬프트를 꼼꼼하게 써줘야 제대로 된 답변이 나오는데, 영어는 훨씬 수월합니다. 그리고 생각보다 GPU 비용이 있네요. 처음엔 무료라고 생각했는데 전기료 생각하니까...

아무튼 회사 컴퓨터는 보안상 못 쓰지만 개인 프로젝트용으로는 충분할 것 같아요. 비슷하게 구성해서 쓰시는 분 있으면 팁 좀 나눠주세요.
추천 0 비추천 0
댓글 0

댓글목록

아직 댓글이 없습니다. 첫 댓글을 남겨보세요!