AI가 자꾸 틀릴 때 — 헛소리(환각) 줄이는 법
AI가 너무나 자신 있게 틀린 답을 준 적, 있으시죠?
없는 논문을 지어내고, 틀린 숫자를 우겨요. 이걸 '환각(hallucination)'이라고 합니다. 완전히 없앨 순 없지만, 확 줄이는 방법은 있어요. 오늘 그걸 정리했습니다. 👇
결론부터 (30초 컷)
| 이렇게 하면 | 헛소리가 줄어요 |
|---|---|
| 🔗 "출처 링크 달아줘" | 확인 가능해짐 |
| 🙋 "모르면 모른다고 해" | 지어내기 감소 |
| 📚 내 자료 안에서만 답하게 | 엉뚱한 소리 차단 |
| ✅ 중요한 건 사람이 최종 확인 | 사고 예방 |
하나씩 보시죠. 👇
왜 AI는 헛소리를 하나 (한 문장)
AI는 '아는 것'이 아니라 '그럴듯한 다음 말'을 만듭니다.
그래서 모를 때도 자신 있게 지어내요. 이 성질을 이해하면, 막는 법도 보입니다. 👇
🛡️ 헛소리 줄이는 6가지 방법
1. 출처를 요구하기 — "출처 링크와 함께 알려줘." 출처를 못 대면 의심 신호입니다. (Perplexity 같은 검색 AI는 기본으로 출처를 줍니다)
2. "모르면 모른다고 해" — 프롬프트에 이 한 줄. 확실하지 않으면 지어내지 말고 밝히라고 시키세요.
3. 내 자료 안에서만 — 파일을 넣고 "이 자료 안에서만 답해"라고 하면 엉뚱한 소리가 확 줄어요. (NotebookLM이 이걸 잘합니다)
4. 되묻게 하기 — "부족한 정보 있으면 먼저 물어봐." 넘겨짚기를 막습니다.
5. 교차 검증 — 중요한 답은 다른 AI에게도 물어보거나, 원문을 직접 확인하세요.
6. 최신·전문 정보는 공식 출처로 — 법·의료·세금·가격 같은 건 AI 답을 '초안'으로만 쓰고, 반드시 공식 페이지·전문가로 확인.
💡 특히 숫자·날짜·이름·인용은 AI가 잘 틀립니다. 이 네 가지는 꼭 눈으로 확인하세요.
바로 붙일 '안전장치' 프롬프트 두고 갑니다. 👇
실제 예시 — AI는 이렇게 '자신 있게' 틀립니다
말로만 들으면 감이 안 오죠. 흔한 예시 하나.
질문: "이 주제로 참고할 논문 3개 추천해줘." AI 답: 그럴듯한 제목·저자·연도가 딱 나옵니다. — 그런데 검색해 보면 존재하지 않는 논문인 경우가 있어요.
이게 환각의 전형입니다. 형식은 완벽한데 내용이 가짜. 잡아내는 법은 간단해요.
- 제목·저자를 그대로 검색해 실제로 있는지 확인
- "이 자료의 원문 링크를 줘"라고 되묻기 — 못 주면 의심
- 숫자·인용은 원문에서 직접 재확인
💡 "그럴듯함 ≠ 사실." 특히 논문·통계·법 조항·가격은 반드시 원본으로 확인하세요.
복붙용 프롬프트 3개
1. [질문] — 확실하지 않으면 지어내지 말고 "모르겠다"고 해줘. 가능하면 출처도.
2. 이 자료(첨부) 안에서만 답해줘. 자료에 없으면 "자료에 없음"이라고 표시.
3. 방금 답에서 사실인지 불확실한 부분만 골라, 왜 불확실한지 알려줘.
자주 묻는 질문
Q. 유료 AI를 쓰면 안 틀리나요? 덜 틀리긴 하지만, 유료도 환각은 있습니다. 방법은 똑같이 적용하세요.
Q. 어떤 걸 특히 조심해야 하나요? 숫자·날짜·법률·의료·최신 정보. 이런 건 반드시 공식 출처로 재확인하세요.
Q. 그래도 AI를 믿고 써도 되나요? 네, '초안·아이디어'로는 훌륭합니다. '최종 사실 확인'만 사람이 하면 됩니다.
다음 글
해시태그: #AI환각 #AI꿀팁 #팩트체크 #ChatGPT #AImistake
