요즘 GPT-4나 Claude 쓰다 보면 확실히 예전보다 틀린 정보가 줄어든 것 같긴 한데, 여전히 자신감 있게 잘못된 답변을 내놓을 때가 있더라고요. 특히 최신 정보나 구체적인 수치를 물어볼 때 말이죠. 그래서 요청할 때마다 항상 검증을 해야 하는데 이게 쌓이면 은근 시간이 걸립니다.
실무에서 LLM을 신뢰도 있게 쓰려면 결국 아웃풋 검증이 필수인 거 맞나요? 아니면 프롬프팅 방식을 잘 조정하면 할루시네이션을 줄일 수 있는 건가요? 다들 어떻게 처리하고 계세요?