회사에서 자체 문서 기반 AI 챗봇 만들려고 RAG 시스템 처음 구축해봤는데, 생각보다 복잡하더라고요. 임베딩 모델 선택부터 벡터 DB, 프롬프트 최적화까지 손댈 게 많네요.
특히 한국어 임베딩이 약하다는 말을 들었는데 실제로 그런지 궁금합니다. 영문 문서는 잘 작동하는데 한글 검색 성능이 좀 떨어지는 것 같아요. 혹시 비슷한 문제 겪으신 분들이 있나요? 따로 한글 특화 임베딩 모델 써보신 거 있으면 추천 받고 싶습니다.
비용 측면도 신경 쓰이는데 스타트업 입장에서 벡터 DB 유지비가 자꾸 늘어나는 게 스트레스네요. 그냥 임시로 만들어서 테스트하고 있는데 이게 맞는 방식인지 모르겠어요.
추천 0 비추천 0