저도 비슷한 상황을 겪었는데 겹침은 20~30% 정도가 가장 무난했어요. 너무 적으면 경계 부분에서 정보가 끊기더라고요.
시맨틱 청킹은 비용 대비 효과가 미묘했어요. 제 경우엔 라마인덱스의 SentenceSplitter 조합으로 충분했습니다. 문장 단위로 끝내면서 버퍼를 조금 넉넉하게 가져가는 식으로요.
프로덕션에선 쿼리 타입에 따라 청킹 크기를 다르게 가져가는 게 효과적이었어요. 요약 쿼리는 크게, 디테일한 검색은 작게 하는 식으로요.
시맨틱 청킹은 비용 대비 효과가 미묘했어요. 제 경우엔 라마인덱스의 SentenceSplitter 조합으로 충분했습니다. 문장 단위로 끝내면서 버퍼를 조금 넉넉하게 가져가는 식으로요.
프로덕션에선 쿼리 타입에 따라 청킹 크기를 다르게 가져가는 게 효과적이었어요. 요약 쿼리는 크게, 디테일한 검색은 작게 하는 식으로요.