GPT가 잘못된 답변을 줄 때, 이 설정 하나로 정확도 높이는 방법

시작하며

GPT를 사용하다 보면 그럴듯하지만 사실과 다른 답변에 당황하게 되는 경우가 있다. 특히 보고서나 발표 자료를 준비할 때 이런 오류는 곧 신뢰도 하락으로 이어질 수 있다. 하지만 단 한 줄의 ‘사전 설정’으로 이런 문제를 미리 방지할 수 있다면 어떨까. 오늘은 GPT가 모를 때는 "모른다"고, 추측일 때는 "추측이다"라고 말하게 만드는 설정법과 실제 활용 팁을 소개한다.

 

1. 왜 GPT가 잘못된 정보를 줄까?

(1) AI는 진실을 알지 못한다, 단지 예측할 뿐이다

• GPT는 입력된 문장에 가장 자연스럽게 이어질 단어를 예측하는 방식이다.
• 사실 여부보다는 ‘자연스러운 문장 구성’이 우선된다.
• 이로 인해 “있을 법한 이야기”를 그럴듯하게 전달하는 경우가 많다.

(2) 출처가 없는 정보는 언제나 위험하다

• 실제로 뉴스 기사나 논문처럼 출처가 명확한 정보가 아닌 경우, 사실 여부 확인이 어려워진다.
• GPT는 종종 존재하지 않는 기사나 논문 제목을 만들어내기도 한다.
• 이 때문에 직접 검색으로 검증하지 않으면 위험할 수 있다.

 

2. GPT의 정확도를 높이는 설정 입력 방법

GPT가 잘못된 답변을 하지 않도록, 대화 시작 전 다음과 같은 설정 문장을 입력해 두는 것이 좋다.

📑 GPT의 정직한 답변을 유도하는 설정 문장 예시

설정 문장 예시	설명
“모르면 모른다고 답해라”	단정짓지 않게 한다
“추측이면 반드시 ‘추측이다’라고 명시해라”	신뢰성을 판단할 수 있도록 한다
“출처가 없다면 ‘출처 없음’이라고 밝히기”	팩트 체크에 도움이 된다
“허구일 경우 허구라고 밝혀라”	창작 정보와 사실 정보를 구분
“확신이 없으면 그렇게 표현하라”	사용자가 판단할 수 있도록 정보 제공
“사실 여부가 확인되지 않으면 그 점을 명확히 해라”	오류를 사전에 차단한다

이 설정 문장은 GPT 대화 시작 전에 한 번만 입력하면, 이후 대화 전체에 영향을 준다.

 

3. 이렇게 달라진다: 설정 전과 후 비교

설정을 하기 전과 후에 GPT의 답변은 어떻게 달라질까? 실제 사례를 통해 차이를 확인해 보면 다음과 같다.

📑 설정 전후 GPT 반응 비교 예시

질문	설정 전 답변	설정 후 답변
“2023년 5월에 일어난 OO사건 알아?”	“그 사건은 ~~했다” (사실 무근)	“정확한 출처가 없어 확답할 수 없습니다”
“이 약은 효과 있나요?”	“네, 효과가 있습니다” (근거 없음)	“효과에 대해서는 임상 데이터가 부족합니다”
“이 인물은 언제 죽었나요?”	존재하지 않는 날짜 제시	“정확한 정보가 없습니다. 확인이 필요합니다”

 

4. 이런 경우라면 꼭 설정을 적용하자

GPT를 주로 사용하는 목적에 따라 설정의 중요성은 더욱 커진다.

📑 GPT 설정이 꼭 필요한 사용 상황

사용 목적	왜 설정이 필요한가
보고서·논문 작성	잘못된 인용 시 전체 신뢰도 하락 가능
블로그나 콘텐츠 제작	허위 정보 게시로 인한 법적 리스크 가능
업무용 정보 검색	빠르게 정확한 정보만 골라내야 할 때 유리
투자나 의약 관련 질문	오답에 따른 금전적·건강 피해 가능

특히 의료, 금융, 법률 분야에서는 설정을 반드시 입력하고 사용할 필요가 있다.

 

5. 처음 GPT를 쓰는 사람이라면 반드시 알아야 할 점

(1) 단순한 설정으로 ‘정보 필터링’ 기능을 만들 수 있다

• GPT 자체에 필터 기능이 있는 것은 아니지만, 설정 문장을 입력하면 유사한 효과를 낼 수 있다.
• “이 정보는 확실하지 않다”고 알려주는 것만으로도 사용자는 큰 혼란을 줄일 수 있다.

(2) 한 번만 입력하면 다음 대화에도 영향 준다

• GPT는 대화 맥락을 기억하기 때문에, 처음 설정한 규칙은 다음 질문에도 적용된다.
• 매번 다시 설정하지 않아도 되므로 효율적이다.

 

마치며

GPT가 주는 정보는 생각보다 그럴듯하고 매끄럽다. 하지만 정확하다고 믿고 사용했다가 낭패를 보는 경우도 적지 않다. 이럴 땐 대화 시작 전에 설정 하나만 입력하는 것으로 정보의 신뢰도를 높일 수 있다. 모르면 모른다고, 출처가 없으면 없다고 말하게 만드는 이 설정은 단순하지만 실용적인 방법이다. 특히 리서치, 보고서, 영상 대본 등 실사용 용도가 명확할수록 꼭 활용해볼 필요가 있다.