할루시네이션 줄이기

할루시네이션이란?

할루시네이션이란 AI가 실제로 존재하지 않는 정보를 사실인 것처럼 생성하는 현상을 의미합니다.

즉, AI가 질문에 대한 정확한 답을 알지 못할 때, 잘못된 추측을 통해 답변을 만들어내는 경우를 말합니다.

이러한 현상은 사용자가 잘못된 정보를 받아들이게 할 위험이 있으므로 주의가 필요합니다.

타임리AI 기능으로 먼저 줄이기

프롬프트를 다듬기 전에, 아래 기능을 켜는 것만으로도 할루시네이션이 크게 줄어요.

기능	어디서	이럴 때
파일 첨부	입력창 › [사진 및 파일 추가]	내 문서 안의 내용으로만 답하게 할 때
프로젝트 지침·파일	왼쪽 메뉴 › [프로젝트]	반복되는 업무에 같은 자료·같은 규칙을 계속 적용할 때
웹 검색	입력창 도구 › [웹 검색]	최신 정보가 필요하고 출처를 보고 싶을 때
심층 리서치	입력창 도구 › [심층 리서치]	여러 출처를 비교·종합한 조사 보고가 필요할 때
지식검색(Perplexity)	Labs › 지식검색	출처 링크를 하나하나 확인해야 할 때
추론 설정(심층 사고)	모델 선택 옆 › [추론]	계산·논리·조건이 복잡해 실수가 잦을 때
모델 바꾸기	입력창 › 모델 선택	한 모델의 답이 의심스러울 때 다른 모델로 교차 확인
[신고하기]	답변 아래	틀린 답을 발견했을 때 — 서비스 개선에 반영돼요

관련: 서비스 활용하기 · Labs · AI 모델별 특징 안내

해결방안 — 프롬프트 전략 7가지

할루시네이션을 줄이기 위해서는 AI 모델이 명확하고 검증된 정보에만 의존하도록 구체적인 지시를 설정하는 것이 중요합니다. 아래에서는 할루시네이션을 최소화하고, AI가 신뢰할 수 있는 답변을 제공할 수 있도록 설계된 다양한 프롬프트 전략을 소개합니다. 각 전략마다 타임리AI 에서 바로 복사해 쓰는 예시와 이렇게 하면 안 되는 예를 함께 두었어요.

a. 명확한 출처를 요구하는 프롬프트

💡 모델이 신뢰할 수 있는 정보만 제공하도록 유도하는 프롬프트입니다.

프롬프트: “정확한 출처가 있는 정보만 제공해 주세요. 출처가 확실하지 않은 정보는 응답하지 마세요.”
잘못된 예시: “가능한 한 많이 설명해 주세요.” → 출처가 불명확한 정보를 생성할 수 있어, 할루시네이션을 유발할 가능성이 큽니다.

타임리AI 에서 바로 쓰기 — [웹 검색] 을 켜고 아래처럼 물어보세요. 답변에 출처가 함께 표시돼요.

2026년 기준 국내 중소기업 정부 지원 사업 중 'AI 도입' 관련 사업 3가지를 알려 주세요.
- 각 항목마다 출처(기관명과 페이지 링크)를 반드시 붙여 주세요.
- 출처를 확인할 수 없는 사업은 목록에 넣지 말고 "확인된 출처 없음"이라고만 적어 주세요.
- 지원 금액·마감일은 출처에 적힌 그대로 옮기고, 추정하지 마세요.

이렇게 하면 안 돼요

AI 도입 지원 사업 아는 대로 전부 알려줘. 금액도 대충 적어줘.

→ “아는 대로”, “대충” 은 모델에게 추측을 허락하는 말이에요. 존재하지 않는 사업명과 금액이 섞여 나올 수 있어요.

b. 응답 범위를 제한하는 프롬프트

💡 모델이 주어진 정보에만 의존해 답변을 생성하게 하는 방법입니다.

프롬프트: “주어진 정보에만 근거해 답변해 주세요. 모르는 정보는 ’알 수 없습니다’라고 답하세요.”
잘못된 예시: “이 주제에 대해 가능한 모든 세부 사항을 설명해 주세요.” → 모호한 요청으로 인해 모델이 불필요한 세부 사항을 만들어낼 수 있습니다.

타임리AI 에서 바로 쓰기 — 계약서·규정 PDF 를 [사진 및 파일 추가] 로 첨부한 뒤:

첨부한 '위탁 계약서.pdf' 내용에만 근거해서 답해 주세요.
질문: 계약 해지 통보 기한은 며칠 전인가요?
- 문서에 해당 조항이 있으면 조항 번호와 원문을 그대로 인용한 뒤 답해 주세요.
- 문서에 없으면 "문서에서 확인할 수 없습니다"라고만 답하고, 일반적인 관행을 대신 말하지 마세요.

이렇게 하면 안 돼요

(파일 첨부 없이) 우리 회사 위탁 계약서의 해지 통보 기한이 며칠이야?

→ 모델은 그 계약서를 본 적이 없어요. 일반론을 “우리 회사 계약서” 인 것처럼 답할 수 있어요.

c. 특정 정보를 거부하는 프롬프트

💡 잘못된 추정이나 응답을 피하고, 정확하지 않은 정보는 답변하지 않도록 하는 전략입니다.

프롬프트: “이 질문에 대해 잘못된 추정이나 답변을 하지 말고, 확실한 정보가 없으면 ’확실한 정보가 없습니다’라고만 답변해 주세요.”
잘못된 예시: “이 질문에 대해 추측해서라도 답변을 해 주세요.” → 추측을 요구하는 프롬프트는 할루시네이션을 일으킬 수 있습니다.

타임리AI 에서 바로 쓰기 — 인물·숫자·고유명사를 물을 때:

'○○대학교 2025학년도 수시 경쟁률'을 알려 주세요.
- 정확한 수치를 알고 있을 때만 답하고, 모르면 "확실한 정보가 없습니다"라고만 답해 주세요.
- 비슷한 학교나 다른 연도의 수치로 대체하지 마세요.
- 추정값을 제시해야 한다면 반드시 "추정" 이라고 표시하고 근거를 적어 주세요.

이렇게 하면 안 돼요

정확하지 않아도 되니까 ○○대 수시 경쟁률 대략 몇 대 몇인지만 말해줘.

→ “정확하지 않아도 된다” 고 하면 모델은 숫자를 만들어서라도 답해요. 그 숫자가 보고서에 그대로 들어가는 사고가 가장 흔해요.

d. 답변 정확성을 우선시하는 프롬프트

💡 정확하고 검증된 정보만을 제공하도록 요구하여 불확실한 정보를 방지합니다.

프롬프트: “정확하고 검증된 정보만 제공해 주세요. 불확실한 정보는 포함하지 마세요.”
잘못된 예시: “추가적으로 알고 있는 정보가 있으면 포함해 주세요.” → 추가 정보를 요구하는 경우, AI는 학습된 내용 외에 잘못된 정보를 생성할 가능성이 있습니다.

타임리AI 에서 바로 쓰기 — [추론] 설정을 켜고 검토를 맡길 때:

아래 보도자료 초안에서 사실관계 오류만 찾아 주세요.
- 확실히 틀렸다고 판단되는 부분만 지적하고, 각 지적에 "왜 틀렸는지"와 확신 정도(높음/중간/낮음)를 적어 주세요.
- 문체·표현 개선 제안은 하지 마세요.
- 새로운 사실을 추가해 보완하지 마세요. 틀린 부분을 찾는 것이 목적입니다.

[초안 붙여넣기]

이렇게 하면 안 돼요

이 보도자료 더 풍성하게 만들어줘. 관련 통계랑 전문가 코멘트도 넣어줘.

→ 없는 통계와 가상의 전문가 발언이 만들어져요. 통계·인용은 사람이 출처를 찾아 직접 넣어야 해요.

e. 예시를 기반으로 한 프롬프트

💡 최신 정보나 명확한 출처를 바탕으로 답변을 요구하여 신뢰도를 높이는 방법입니다.

프롬프트: “이 질문에 대해 최신 정보 또는 출처가 확인된 사실만 제공해 주세요. 출처가 없다면 응답하지 말고 ’확실한 정보가 없습니다’라고 답해 주세요.”
잘못된 예시: “이 주제에 대해 알고 있는 모든 것을 설명해 주세요.” → 너무 광범위한 요청은 잘못된 정보 생성을 초래할 수 있습니다.

타임리AI 에서 바로 쓰기 — 원하는 답의 형태를 예시로 보여 주면 모델이 그 틀 밖으로 벗어나기 어려워요. [템플릿 만들기] 의 “AI에게 명령할 내용” 에 넣어 두면 매번 같은 품질로 받을 수 있어요.

아래 형식 그대로, 첨부한 회의록에서 결정 사항만 뽑아 주세요. 회의록에 없는 항목은 만들지 마세요.

[형식 예시]
- 결정: 2분기 예산 10% 감축
  근거(원문): "2분기 예산은 전 분기 대비 10% 감축하기로 함" (3페이지)
  담당: 재무팀 / 기한: 4월 30일

회의록에 담당자나 기한이 없으면 해당 칸에 "미기재"라고 적어 주세요.

이렇게 하면 안 돼요

회의록 요약해줘. 중요한 거 빠뜨리지 말고.

→ “중요한 것” 의 기준이 없어 모델이 임의로 보충해요. 회의에서 나오지 않은 결정이 요약에 끼어들 수 있어요.

f. RAG(Retrieval-Augmented Generation)를 활용한 프롬프트

💡 RAG는 생성 AI 모델이 실시간으로 외부 문서나 데이터베이스를 검색하여 필요한 정보를 찾아 응답하는 방식입니다. 이를 통해 모델은 정확한 출처를 바탕으로 최신 정보를 제공할 수 있으며, 답변의 신뢰성을 높여 할루시네이션을 효과적으로 줄일 수 있습니다.

프롬프트: “제공된 문서나 데이터베이스에서 필요한 정보를 검색한 후, 정확한 출처를 바탕으로 답변해 주세요. 불확실한 경우에는 ’확인할 수 없습니다’라고 답변하세요.”
잘못된 예시: “모든 질문에 대해 알고 있는 대로 답변해 주세요.” → 출처 없이 답변을 생성하게 되면 할루시네이션을 유발할 가능성이 높습니다.

타임리AI 에서 바로 쓰기 — 타임리AI 의 RAG 는 세 곳에 있어요.

방법	어디서	적합한 경우
채팅에 파일 첨부	입력창 › [사진 및 파일 추가]	한두 개 문서로 한 번 물어볼 때
프로젝트의 파일·지침	왼쪽 메뉴 › [프로젝트] › [파일]·[지침]	같은 자료로 여러 번, 팀과 함께
Labs 문서(RAG)	Labs › 문서	모델 역할·온도·Top P 까지 세밀하게 조정할 때

프로젝트의 [지침] 에 아래를 넣어 두면 그 프로젝트의 모든 대화에 자동으로 적용돼요.

[지침]
- 답변은 이 프로젝트에 등록된 파일 내용에만 근거합니다.
- 인용할 때는 파일명과 위치(페이지·섹션)를 함께 적습니다.
- 파일에 없는 내용을 물으면 "등록된 자료에서 확인할 수 없습니다"라고 답하고, 일반 지식으로 대신 답하지 않습니다.
- 숫자·날짜·고유명사는 파일 원문 그대로 옮기고 반올림하거나 바꾸지 않습니다.

Labs › 문서(RAG) 에서는 온도와 Top P 를 낮게 두면 문서에 충실한 보수적인 답을, 높게 두면 창의적인 답을 해요. 사실 확인 용도라면 낮게 두세요.

이렇게 하면 안 돼요

(지침 없이 파일만 올리고) 이 자료 참고해서 시장 전망 써줘. 자료에 없는 부분은 네가 알아서 채워줘.

→ “알아서 채워 달라” 는 요청은 RAG 의 장점을 스스로 버리는 말이에요. 자료 기반 부분과 모델이 지어낸 부분이 구분되지 않아요.

g. 검증 과정을 포함한 프롬프트

💡 모델이 답변을 제공할 때, Knowledge 문서에 근거하여 응답의 신뢰성을 평가하고 검증하는 과정이 필요합니다. 이를 통해 답변의 정확성과 출처 기반성을 높이고, 할루시네이션 발생을 줄일 수 있습니다.

1. 신뢰점수 평가

Knowledge 문서에 기반한 답변을 할 때, 해당 정보에 대한 신뢰점수로 평가해야 합니다. 이를 통해 사용자가 응답의 신뢰성을 확인할 수 있으며, 모델이 문서에 명확하게 의존하여 답변했는지를 평가할 수 있습니다.

프롬프트: “Knowledge 내용 기반으로 답변할 때 해당 내용에 대한 너의 신뢰점수를 100점 만점으로 평가해서 함께 작성해주세요.”

타임리AI 에서 바로 쓰기 — 프로젝트 [지침] 또는 템플릿 명령어에:

답변 끝에 아래 블록을 반드시 붙여 주세요.

[신뢰도 점검]
- 신뢰점수: __/100
- 근거가 된 파일·위치:
- 문서에 없어서 일반 지식으로 보충한 부분: (없으면 "없음")
- 사용자가 직접 확인해야 할 항목:

2. Groundedness Check 검증

최종적으로, 모델의 답변이 실제로 Knowledge 문서에 기반한 ’참’인 답변인지 검증하는 Groundedness Check 과정을 진행합니다. 답변이 문서에 정확히 근거했는지를 다시 확인하고, 그 결과를 피드백합니다.

프롬프트: “최종 답변의 내용이 Knowledge에 의거해서 ’참’인지 한번 더 검증하는 Groundedness Check 과정을 진행합니다. 마지막으로 Groundedness Check 결과를 피드백 합니다. (ex. 이 답변은 Groundedness Check 결과 사실입니다. or 이 답변은 Groundedness Check 결과 거짓일 확률이 높습니다.)”

타임리AI 에서 바로 쓰기 — 답을 받은 뒤 같은 대화에서 이어서 보내면 모델이 자기 답을 다시 점검해요. [추론] 을 켜면 더 꼼꼼해요.

방금 답변을 문장 단위로 나눠서, 각 문장이 첨부 문서의 어느 부분에 근거하는지 표로 정리해 주세요.
근거를 찾을 수 없는 문장은 "근거 없음"으로 표시하고, 그 문장들만 모아 수정하거나 삭제한 최종본을 다시 써 주세요.

이렇게 하면 안 돼요

방금 답 맞지? 확실하지?

→ 모델은 대체로 “네, 확실합니다” 라고 답해요. 확인은 근거를 대라는 형태로 시켜야 의미가 있어요.

한눈에 보는 체크리스트

질문을 보내기 전에 아래를 확인해 보세요.

근거 자료가 있다면 첨부했나요? (파일 · 프로젝트 · 웹 검색)
“자료에 없으면 모른다고 답하라” 고 적었나요?
“추측하지 말라”, “대체하지 말라” 고 적었나요?
원하는 출력 형식을 예시로 보여 줬나요?
숫자·날짜·고유명사는 출처와 함께 요구했나요?
결과를 받은 뒤 근거 표·신뢰점수로 한 번 더 점검했나요?
중요한 결정이라면 다른 모델로 교차 확인했나요?

관련: 자주 묻는 질문 · AI 모델별 특징 안내