클로드에게 관련 연구 자료를 물었을 때, 저자와 연도까지 갖춘 그럴듯한 논문 제목을 받은 적이 있습니다. 검색해 보니 그런 논문은 없었습니다. 이런 현상을 AI 환각(hallucination)이라고 합니다. 클로드는 비교적 신중한 편이지만, 환각이 0은 아닙니다.
이번 글에서는 환각이 생기는 상황과, 이를 줄이는 질문 습관을 정리합니다.
환각이 잘 생기는 상황
| 상황 | 이유 |
|---|---|
| 구체적인 숫자·통계를 물을 때 | 그럴듯한 숫자를 만들기 쉬움 |
| 논문·책·기사 출처를 물을 때 | 형식이 정해져 있어 지어내기 쉬움 |
| 아주 최근 정보를 물을 때 | 학습 시점 이후 정보는 모름 |
| 덜 알려진 인물·회사·제품 | 학습 데이터가 적음 |
| 법 조항 번호, 판례 번호 | 정확한 번호를 기억하기 어려움 |
| "있다"를 전제로 물을 때 | 없는 것도 있다고 답하려는 압력 |
마지막 항목이 특히 중요합니다. "○○에 관한 연구 3개 알려 줘"라고 물으면, 클로드는 3개를 채우려는 압력을 받습니다.
환각을 줄이는 질문 습관 6가지
1. "모르면 모른다고 해"를 명시
확실하지 않으면 추측하지 말고 "확실하지 않음"이라고 표시해 줘.
Anthropic 공식 문서도 클로드에게 "모른다고 말해도 된다"는 허락을 주는 것을 환각 줄이기 방법으로 안내합니다.
2. 전제를 열어 두기
- ❌ "○○ 효과를 입증한 연구 3개 알려 줘"
- ✅ "○○ 효과에 대한 연구가 있는지, 있다면 어떤 것들이 있는지 알려 줘. 없거나 확실하지 않으면 그렇게 말해 줘."
3. 자료를 주고 그 안에서만 답하게
<document>
(보고서 원문)
</document>
<document>에 있는 내용만 사용해서 답해 줘.
문서에 없는 내용이면 "문서에 없음"이라고 답해.
내가 준 자료 안에서만 답하게 하면 환각이 크게 줄어듭니다. 사내 문서 Q&A에 꼭 쓰는 방식입니다.
4. 근거 인용을 먼저 요구
답하기 전에, 답의 근거가 되는 문장을 문서에서 그대로 인용해 줘.
인용할 문장이 없으면 답하지 마.
근거 문장을 먼저 찾게 하면, 근거 없는 주장이 끼어들 틈이 줄어듭니다.
5. 최신 정보는 검색 켜고 출처 확인
최근 소식, 가격, 정책은 웹 검색을 켜고 출처 링크와 게시 날짜를 함께 받으세요.
6. 자기 검토 요청
답을 받은 뒤 이렇게 이어서 물어봅니다.
방금 답변에서 사실 확인이 필요한 주장을 모두 뽑고,
각각 얼마나 확신하는지(높음/중간/낮음) 표시해 줘.
클로드가 스스로 "이 숫자는 확신이 낮다"고 표시하는 경우가 꽤 있습니다. 검증할 곳을 좁히는 데 유용합니다.
답변 검증 체크리스트
업무에 쓰기 전에 이 순서로 확인합니다.
- 숫자: 원자료나 공식 출처에서 직접 확인했는가?
- 인용·출처: 논문, 기사, 책이 실제로 존재하는가? 제목으로 검색해 봤는가?
- 고유명사: 사람 이름, 회사명, 제품명의 철자가 정확한가?
- 날짜: 정보의 기준 시점이 현재와 맞는가?
- 법·의료·금융: 전문가나 공식 기관 자료로 확인했는가?
실제로 겪은 사례와 교훈
블로그 글을 준비하며 "프롬프트 캐싱 도입 효과에 대한 통계"를 물었을 때, 클로드는 처음에 "일반적으로 비용이 크게 감소한다"고 답하면서 구체적 수치는 제시하지 않았습니다. "구체적인 수치를 알려 줘"라고 다시 묻자 공식 문서의 단가 비율(캐시 읽기 약 0.1배)을 근거로 설명했고, 사례별 절감률은 상황에 따라 다르다고 선을 그었습니다. 반대로 질문 습관을 신경 쓰지 않았던 초기에는 출처 불명의 숫자를 받은 적도 있습니다. 결국 질문이 환각의 여지를 만들기도, 줄이기도 한다는 걸 배웠습니다.
💬 검증이 필요한 초안으로 대하기
환각을 완전히 막을 방법은 없습니다. 그래서 저는 클로드의 답을 "검증이 필요한 초안"으로 대합니다. 숫자 하나, 출처 하나를 확인하는 데 드는 시간은 몇 분이지만, 틀린 정보가 보고서나 블로그에 실리면 신뢰를 회복하는 데는 훨씬 오래 걸립니다. 위의 여섯 가지 습관 중 1번과 3번만 지켜도 체감 오류가 크게 줄어듭니다.
📌 3줄 요약
- 숫자·출처·최신 정보·덜 알려진 대상에서 환각이 잘 생깁니다.
- "모르면 모른다고", "주어진 자료 안에서만", "근거 먼저 인용"을 질문에 넣으세요.
- 숫자·출처·고유명사·날짜는 반드시 원자료로 검증합니다.
