2026.09.05 접속자 86
로그인 회원가입
HOT
[AI뉴스] 요즘 딥러닝 논문들 어떤 방향으로 가고 있는지 궁금하네요 [AI뉴스] 요즘 AI 산업 변화 좀 충격적이던데 다들 어떻게 생각하세요? [프롬프트] LLM한테 코드 리뷰 받을 때 유용한 프롬프트 공유합니다 [AI뉴스] 2026년 하반기 AI 뉴스 정리... 요즘 AI 시장 어디까지 왔나요? [프롬프트] 코드 리뷰 요청할 때 쓰는 프롬프트 뭐 쓰세요? [AI뉴스] 요즘 회사에서 AI 도입하라고 하는데 실제로 제대로 쓰는 곳이 몇이나 될까요? [프롬프트] Claude에게 "역할극" 시키는 프롬프트 꿀팁 [기술 Q&A] 요즘 LLM 파인튜닝 비용이 얼마나 드세요? [프롬프트] 코드 리뷰 요청할 때 쓰는 프롬프트 공유합니다 [기술 Q&A] RAG 시스템 구축할 때 Vector DB 선택 기준이 뭔가요? [AI뉴스] 요즘 딥러닝 논문들 어떤 방향으로 가고 있는지 궁금하네요 [AI뉴스] 요즘 AI 산업 변화 좀 충격적이던데 다들 어떻게 생각하세요? [프롬프트] LLM한테 코드 리뷰 받을 때 유용한 프롬프트 공유합니다 [AI뉴스] 2026년 하반기 AI 뉴스 정리... 요즘 AI 시장 어디까지 왔나요? [프롬프트] 코드 리뷰 요청할 때 쓰는 프롬프트 뭐 쓰세요? [AI뉴스] 요즘 회사에서 AI 도입하라고 하는데 실제로 제대로 쓰는 곳이 몇이나 될까요? [프롬프트] Claude에게 "역할극" 시키는 프롬프트 꿀팁 [기술 Q&A] 요즘 LLM 파인튜닝 비용이 얼마나 드세요? [프롬프트] 코드 리뷰 요청할 때 쓰는 프롬프트 공유합니다 [기술 Q&A] RAG 시스템 구축할 때 Vector DB 선택 기준이 뭔가요?
API연동

RAG 시스템 구축할 때 Vector DB 선택 기준이 뭔가요?

오늘도살자 2026.08.30 09:07 조회 28 추천 3 댓글 1건
요즘 회사에서 자체 문서 기반 AI 챗봇을 만들려고 하는데 Vector DB를 어떤 걸로 갈 지 고민이 많네요. Pinecone, Weaviate, Milvus, Qdrant 이렇게 여러 개가 있더라고요.

지금까지 본 것 같은데 Pinecone은 편하긴 한데 가격이 정말 비싼 편이고, 오픈소스 솔루션들은 자체 서버에서 운영해야 하는데 관리 오버헤드가 있더라고요. 특히 문서 규모가 매년 늘어날 예정이라 스케일링을 고려해야 하는 상황입니다.

검색 정확도도 중요하지만 실제로는 응답 속도와 운영 비용 사이의 트레이드오프가 더 중요한 것 같아요. Pinecone 써본 분들은 정말 체감상 가치가 있다고 생각하시는지 궁금하네요. 아니면 오픈소스로 충분하고 저희가 과하게 생각하는 건지...

그리고 임베딩 모델도 OpenAI의 text-embedding-3-large 쓸지, Upstage의 Solar 같은 국산 모델 쓸지도 고민이에요. 성능 차이가 실제로 크다는 건데 비용과 레이턴시를 봤을 때 차이가 있는지 경험담 있으신 분 계시면 공유 부탁드립니다.

혹시 프로덕션 환경에서 RAG 시스템 운영해보신 분이 있으면 어떤 조합으로 가셨는지, 그리고 나중에 마이그레이션 하게 된 경험 있으신지도 궁금해요. 초기 선택이 나중에 얼마나 영향을 미치는지 알 수 있을 것 같거든요.
추천 3 비추천 0
댓글 1

댓글목록

profile_image
흐름타는개발자
전 처음엔 Pinecone 썼는데 결국 비용 때문에 Qdrant로 넘어갔어요. 오픈소스치고 성능도 충분하고 쿠버네티스에서 관리도 괜찮더라고요. 문서량이 계속 늘어나는 거면 셀프호스팅이 결국 이득인 것 같아요.
임베딩은 저희도 text-embedding-3-large 썼는데 Solar와 비교해본 결과 우리 도메인에선 크게 차이 안 나더라고요. 비용 차이가 크니까 Solar 추천드려요.