저도 비슷한 경험 있는데, 결국 도메인에 따라 다르더라고요. 금융이나 법률 문서는 semantic chunking이 압도적으로 좋은데, 일반 텍스트는 fixed-size가 더 빠르고 안정적이었어요.
프로덕션에선 chunk size 512~1024, overlap 20% 정도로 고정하고 테스트하는 게 제일 무난한 것 같습니다. 처리 시간이 중요하다면 LangChain의 RecursiveCharacterTextSplitter도 괜찮은 대안이더라고요.
프로덕션에선 chunk size 512~1024, overlap 20% 정도로 고정하고 테스트하는 게 제일 무난한 것 같습니다. 처리 시간이 중요하다면 LangChain의 RecursiveCharacterTextSplitter도 괜찮은 대안이더라고요.