저도 같은 문제로 계속 고민하고 있어요. 결론부터 말하면 프롬프팅만으로는 한계가 있더라고요. 특히 수치나 최신 정보는 학습 데이터 자체가 문제라서요.
제 경우엔 결합 방식을 쓰고 있는데, RAG 구현해서 신뢰할 만한 소스를 먼저 검색하고 그걸 컨텍스트로 주면 할루시네이션이 확연히 줄어들더라고요. 또는 사실 검증이 필요한 부분에서는 처음부터 LLM에만 의존하지 말고 API나 DB 직접 조회를 섞는 거죠.
프롬프팅으로는 "확실하지 않으면 모른다고 해라" 같은 지시가 어느 정도 도움이 되긴 해요. 근데 여전히 100%
제 경우엔 결합 방식을 쓰고 있는데, RAG 구현해서 신뢰할 만한 소스를 먼저 검색하고 그걸 컨텍스트로 주면 할루시네이션이 확연히 줄어들더라고요. 또는 사실 검증이 필요한 부분에서는 처음부터 LLM에만 의존하지 말고 API나 DB 직접 조회를 섞는 거죠.
프롬프팅으로는 "확실하지 않으면 모른다고 해라" 같은 지시가 어느 정도 도움이 되긴 해요. 근데 여전히 100%