RAG 시스템 구축할 때 Vector DB 선택 기준이 뭔가요?

요즘 회사에서 자체 문서 기반 AI 챗봇을 만들려고 하는데 Vector DB를 어떤 걸로 갈 지 고민이 많네요. Pinecone, Weaviate, Milvus, Qdrant 이렇게 여러 개가 있더라고요.

지금까지 본 것 같은데 Pinecone은 편하긴 한데 가격이 정말 비싼 편이고, 오픈소스 솔루션들은 자체 서버에서 운영해야 하는데 관리 오버헤드가 있더라고요. 특히 문서 규모가 매년 늘어날 예정이라 스케일링을 고려해야 하는 상황입니다.

검색 정확도도 중요하지만 실제로는 응답 속도와 운영 비용 사이의 트레이드오프가 더 중요한 것 같아요. Pinecone 써본 분들은 정말 체감상 가치가 있다고 생각하시는지 궁금하네요. 아니면 오픈소스로 충분하고 저희가 과하게 생각하는 건지...

그리고 임베딩 모델도 OpenAI의 text-embedding-3-large 쓸지, Upstage의 Solar 같은 국산 모델 쓸지도 고민이에요. 성능 차이가 실제로 크다는 건데 비용과 레이턴시를 봤을 때 차이가 있는지 경험담 있으신 분 계시면 공유 부탁드립니다.

혹시 프로덕션 환경에서 RAG 시스템 운영해보신 분이 있으면 어떤 조합으로 가셨는지, 그리고 나중에 마이그레이션 하게 된 경험 있으신지도 궁금해요. 초기 선택이 나중에 얼마나 영향을 미치는지 알 수 있을 것 같거든요.