저도 같은 경험 있어요. 특히 최신 정보나 한국 로컬 정보 물어볼 때 더 심하더라고요. 제 경우엔 프롬프트에 "만약 확실하지 않으면 모른다고 말해줘"라고 명시하니까 좀 나아졌어요. 아니면 Claude 써볼 만한데 hallucination이 상대적으로 적긴 한데 완전히 없진 않더라고요. 결국 검증 과정을 거치는 게 가장 확실한 것 같습니다.
GPT 써보니까 hallucination이 자꾸 생기는데 이게 정상인가요?
요즘 업무에서 ChatGPT를 자주 쓰고 있는데 가끔 이상한 점이 있어서 질문드립니다. 특히 특정 주제에 대해 물어보면 없는 정보를 마치 있는 것처럼 지어내는 경우가 있더라고요. 이게 hallucination이라고 들었는데 정확히 뭔지, 그리고 이런 일을 피할 수 있는 방법이 있는지 궁금합니다.
예를 들어 어제는 한국 AI 스타트업 중에 특정 회사에 대해 물어봤는데, 실제로는 없는 회사 이름까지 지어내서 깜짝 놀랐어요. 물론 뒤에 "이건 제가 생성한 정보일 수도 있습니다" 같은 면책 조항은 있었지만, 그렇다면 처음부터 이런 일이 안 생기게 할 순 없을까 싶거든요.
혹시 프롬프트를 다르게 작성하거나, 특정 방식으로 질문하면 hallucination을 줄일 수 있는 팁이 있을까요? 아니면 이건 그냥 현재 AI 모델의 한계라서 감수하고 써야 하는 건가요?
또 다른 AI 모델들(Claude, Gemini 등)을 써보신 분들은 이 부분에서 차이를 느껴보셨는지도 궁금합니다. 회사에서 어떤 도구를 도입할지 검토 중이라 답변 정확도가 중요한데, 각 도구별로 hallucination 경향이 다르다면 참고하고 싶네요.
아직 AI를 깊이 있게 공부하지 않아서 초보적인 질문일 수도 있지만, 도움 주시면 감사하겠습니다.
예를 들어 어제는 한국 AI 스타트업 중에 특정 회사에 대해 물어봤는데, 실제로는 없는 회사 이름까지 지어내서 깜짝 놀랐어요. 물론 뒤에 "이건 제가 생성한 정보일 수도 있습니다" 같은 면책 조항은 있었지만, 그렇다면 처음부터 이런 일이 안 생기게 할 순 없을까 싶거든요.
혹시 프롬프트를 다르게 작성하거나, 특정 방식으로 질문하면 hallucination을 줄일 수 있는 팁이 있을까요? 아니면 이건 그냥 현재 AI 모델의 한계라서 감수하고 써야 하는 건가요?
또 다른 AI 모델들(Claude, Gemini 등)을 써보신 분들은 이 부분에서 차이를 느껴보셨는지도 궁금합니다. 회사에서 어떤 도구를 도입할지 검토 중이라 답변 정확도가 중요한데, 각 도구별로 hallucination 경향이 다르다면 참고하고 싶네요.
아직 AI를 깊이 있게 공부하지 않아서 초보적인 질문일 수도 있지만, 도움 주시면 감사하겠습니다.
추천 3
- 이전글ChatGPT 유료 vs 무료 버전, 실제로 얼마나 차이 나나요?26.08.08
- 다음글LLM 파인튜닝 vs RAG, 어떤 걸 먼저 시작해야 할까요?26.08.06