저도 같은 부분에서 막혔거든요 ㅠㅠ 프롬프트 엔지니어링 진짜 어렵더라고요
처음 RAG 시스템 구축해봤는데 이게 맞나요?
최근에 LLM에 외부 데이터를 연결하는 RAG를 직접 구현해봤거든요. 간단한 문서 검색 시스템인데 생각보다 까다로운 부분이 많더라고요.
임베딩 모델을 선택할 때 한국어 문서를 다루는 거라 여러 옵션을 비교했어요. 결국 한국어 특화 모델을 썼는데, 문서 분할 방식에 따라 검색 성능이 확 달라지는 거 봤습니다. 저는 단순 고정 길이 분할부터 시작해서 semantic chunking도 시도해봤어요.
다만 프롬프트 엔지니어링 부분이 아직도 불확실해요. 검색 결과가 좋아도 모델이 제대로 활용을 못 하는 경우가 있어서요. 혹시 같은 작업하신 분들은 이 부분을 어떻게 해결하셨나요?
임베딩 모델을 선택할 때 한국어 문서를 다루는 거라 여러 옵션을 비교했어요. 결국 한국어 특화 모델을 썼는데, 문서 분할 방식에 따라 검색 성능이 확 달라지는 거 봤습니다. 저는 단순 고정 길이 분할부터 시작해서 semantic chunking도 시도해봤어요.
다만 프롬프트 엔지니어링 부분이 아직도 불확실해요. 검색 결과가 좋아도 모델이 제대로 활용을 못 하는 경우가 있어서요. 혹시 같은 작업하신 분들은 이 부분을 어떻게 해결하셨나요?
추천 11
- 이전글AI 학습 초보인데 어디서부터 시작해야 할까요?26.05.18
- 다음글Claude 무료 플랜으로 충분할까요?26.05.16
댓글
3
댓글목록
프롬프트 부분 완전 공감이에요 ㅠㅠ
저도 비슷한 경험이 있는데, 프롬프트에 검색 결과를 어떻게 구조화해서 넣는지가 진짜 중요하더라고요. 저는 관련도 높은 청크부터 먼저 배열하고 출처 명시를 명확히 하니까 모델 성능이 좀 나아졌어요. 한 번 시도해보세요.
댓글을 작성하려면 로그인이 필요합니다.