생성형 AI는 질문에 그럴듯하게 답하지만, 실제로 존재하지 않는 정보나 오래된 내용을 섞어 제시할 수 있습니다. 특히 정책, 가격, 일정, 의학·법률 정보처럼 최신성과 정확성이 중요한 주제는 답변을 그대로 사용하지 말고 검증 절차를 함께 요청해야 합니다.
검증을 포함해 질문하는 기본 방법
질문 끝에 단순히 “정확하게 알려줘”라고 쓰기보다, 근거와 불확실한 부분을 구분하도록 지시하세요. 예를 들어 다음처럼 입력할 수 있습니다.
“아래 질문에 답하되, 확인이 필요한 최신 정보와 일반적으로 확립된 내용을 구분해줘. 확실하지 않은 내용은 추정하지 말고 ‘확인 필요’라고 표시해줘. 답변에 포함된 핵심 주장마다 확인할 공식 기관이나 원문 자료의 종류도 함께 알려줘.”
답변을 받은 뒤 확인할 순서
- 날짜, 금액, 조건처럼 바뀔 수 있는 수치를 따로 추립니다.
- AI가 제시한 기관명이나 문서명이 실제로 존재하는지 공식 홈페이지에서 검색합니다.
- 중요한 결정에 사용할 내용은 원문과 대조하고, 출처가 없거나 서로 다른 정보는 보류합니다.
이 방법은 AI의 오류를 없애는 기능이 아니라, 답변을 검토하기 쉽게 만드는 입력 방식입니다. 개인정보나 업무 기밀은 검증 과정에서도 입력하지 않는 것이 안전합니다.
실제로 사용할 검증 프롬프트 만들기
질문을 한 번에 길게 쓰기보다 목적, 기준일, 대상 지역을 나눠 입력하면 확인할 항목이 분명해집니다. 다음 형식을 활용해 보세요.
“목적은 [사용 목적]입니다. 기준일은 [날짜], 대상 지역은 [지역]입니다. 답변을 사실, 추론, 확인 필요 항목으로 나누고, 날짜·조건·예외를 빠뜨리지 마세요. 각 사실에는 확인할 공식 자료의 검색어와 자료 발행일을 덧붙여 주세요. 자료를 확인할 수 없다면 출처를 만들어내지 말고 모른다고 답하세요.”
검증 결과를 더 정확하게 다듬는 방법
- 답변을 받은 뒤 “핵심 주장만 표로 정리하고, 근거가 약한 순서대로 표시해줘”라고 요청합니다.
- 법률, 의료, 세금, 계약처럼 결과가 큰 주제는 적용 대상과 예외 사례를 별도로 질문합니다.
- “이 답변이 틀릴 수 있는 이유 3가지”를 요청하면 누락된 조건을 찾는 데 도움이 됩니다.
- 공식 자료를 직접 확보했다면 문서의 제목, 기준일, 관련 문단을 함께 넣고 그 범위 안에서만 요약하게 합니다.
주의할 점
출처 형식이 갖춰져 있어도 실제 원문과 일치한다고 보장되지는 않습니다. 검색 결과의 제목만 보고 결론 내리지 말고 시행일, 개정일, 적용 대상까지 확인하세요. 금전 거래나 건강 관련 행동은 AI 답변만으로 결정하지 말고 담당 기관이나 전문가에게 최종 확인하는 것이 안전합니다.
짧은 요약
검증 프롬프트에는 기준일과 범위를 넣고, 사실·추론·확인 필요 항목을 분리하게 하세요. 이후 수치와 조건을 공식 원문에 대조하면 오류를 줄이고 답변의 한계도 빠르게 파악할 수 있습니다.