AI의 환각(거짓 정보)을 줄이는 실전 프롬프트 전략
약 7분 읽기 · 2026-04-01 업데이트
생성형 AI는 모르는 것도 '아는 척' 그럴듯하게 답하는 경향이 있습니다. 이를 환각(hallucination)이라고 부릅니다. 환각을 0으로 만들 수는 없지만, 프롬프트와 사용 습관으로 상당히 줄일 수 있습니다. 특히 수치·인용·법률·의료처럼 틀리면 치명적인 영역에서 중요합니다.
환각은 왜 생기나
대화형 AI는 사실을 '조회'하는 데이터베이스가 아니라, 다음에 올 가능성이 높은 단어를 '예측'하는 모델입니다. 그래서 정답을 모를 때도 통계적으로 그럴듯한 문장을 만들어 냅니다. 이 구조를 이해하면, 왜 출처 확인이 항상 필요한지 납득할 수 있습니다.
모르면 모른다고 말하게 하라
'확실하지 않으면 모른다고 답하고, 추측일 경우 추측이라고 명시해줘'라는 지시를 넣으면, 억지로 답을 지어내는 빈도를 줄일 수 있습니다. AI에게 '정답을 내야 한다'는 압박 대신 '모름을 인정해도 된다'는 여지를 주는 것입니다.
근거와 출처를 함께 요구하라
'주장마다 근거를 함께 제시하고, 출처가 불확실하면 그렇다고 표시해줘'라고 요청하세요. 더 확실하게는 검색이 결합된 도구(Perplexity, Gemini)를 쓰거나, 직접 자료를 붙여넣고 '이 자료 안에서만 답해줘'라고 범위를 제한하는 방법이 효과적입니다.
자료를 주고 그 안에서만 답하게 하라
환각을 가장 크게 줄이는 방법은 AI에게 신뢰할 수 있는 자료를 직접 제공하고, '제공한 자료에 근거해서만 답하라'고 제한하는 것입니다. 모델의 불확실한 기억 대신 눈앞의 문서를 근거로 삼게 되므로 정확도가 크게 올라갑니다.
마지막 방어선은 사람의 검증
어떤 기법을 써도 환각을 완전히 없앨 수는 없습니다. 숫자·날짜·고유명사·인용·법률/의료 정보는 반드시 원 출처에서 교차 확인하세요. AI는 초안과 아이디어를 빠르게 만들어 주는 동료이지, 사실 검증의 최종 책임자가 아닙니다.
핵심 요약
- ✓환각은 AI가 사실을 '조회'가 아니라 '예측'하기 때문에 생긴다.
- ✓'모르면 모른다고 답하라', '근거를 제시하라'는 지시가 환각을 줄인다.
- ✓자료를 직접 주고 그 안에서만 답하게 하면 정확도가 크게 오른다. 최종 검증은 사람의 몫이다.