AI에게 사실과 의견을 구분해 달라고 요청할 때 결과의 품질은 질문의 화려함보다 입력 자료의 구분 상태에 좌우됩니다. 원문, 주장, 판단 기준, 불확실성을 나누어 제공하면 AI의 답을 실제 검토와 의사결정에 활용하기 쉬워집니다.
사실과 의견을 가르는 입력의 기본 구조
사실은 자료를 통해 참과 거짓을 대조할 수 있는 주장입니다. 날짜, 발언 내용, 문서에 적힌 조건처럼 외부 자료와 비교할 수 있어야 하며, “좋다”, “과하다”, “가장 안전하다”처럼 평가 기준이 필요한 문장은 의견이나 해석으로 분류합니다.
한 문장 안에 사실과 의견이 섞이면 AI는 둘을 같은 확실성으로 다룰 수 있습니다. “이 제품은 지난해 출시됐고 최고의 선택이다”라는 문장은 출시 시점이라는 사실과 최고의 선택이라는 평가를 분리해 입력해야 판단 결과가 흔들리지 않습니다.
입력에는 먼저 AI가 할 일을 적습니다. “아래 글에서 검증 가능한 주장과 작성자의 평가를 나누고, 각각의 근거 문장을 표시해 달라”처럼 대상과 작업을 함께 쓰면 단순 요약이나 문체 수정으로 새지 않습니다. 복잡한 과업은 한 번에 결론을 내리기보다 작업을 나누고, 각 단계의 결과를 확인하며 반복적으로 다듬는 방식이 권장됩니다.
그다음 자료의 성격을 밝혀야 합니다. 보도자료인지, 사용자의 경험담인지, 광고 문구인지, 법령이나 통계의 원문인지 알려 주면 AI가 자료를 사실의 근거로 볼지 의견의 사례로 볼지 구분하기 쉬워집니다.
좋은 입력은 결론을 미리 강요하지 않습니다. “이 주장이 틀렸다는 점을 증명해 달라”보다 “주장, 근거, 반대 근거, 판단 유보 사유를 각각 나눠 달라”고 요청하는 편이 검토 과정의 균형을 지키는 데 유리합니다.
좋은 입력에 들어갈 근거와 판정 기준
좋은 입력에는 원문이 포함되어야 합니다. 요약문만 붙이면 누가 언제 어떤 조건에서 말했는지 빠질 수 있으므로, 가능하면 해당 문장을 앞뒤 맥락과 함께 제공하고 인용인지 재구성인지도 구분합니다.
자료를 붙일 때는 지시문과 원문을 시각적으로 나누는 방식이 유용합니다. OpenAI 공식 안내도 지시문을 앞에 두고 구분 기호로 맥락을 분리하며, 결과 형식과 길이, 문체를 구체적으로 정하라고 설명합니다. OpenAI 프롬프트 작성 안내의 원칙을 그대로 적용할 수 있습니다.
판정 기준은 “사실인가?”에서 끝나지 않아야 합니다. AI에게 사실성, 원문 근거의 존재, 표현의 확실성, 의견 또는 추론 여부를 별도 항목으로 나누어 표시하게 하면 하나의 모호한 점수에 판단이 압축되는 일을 줄일 수 있습니다.
예를 들어 다음과 같은 요청이 적절합니다. “각 문장을 사실, 의견, 추론, 판단 보류 중 하나로 분류하고, 사실로 분류한 문장에는 원문 근거를 붙여 달라. 근거가 없으면 사실로 확정하지 말고 필요한 자료를 적어 달라”와 같이 조건을 명시합니다.
판정 대상도 한정해야 합니다. 글 전체를 한꺼번에 평가하기보다 문장이나 주장 단위로 나누고, 서로 다른 주장이 연결된 문장은 분리하도록 요청합니다. 그래야 일부만 맞는 문장이 전체적으로 사실인 것처럼 처리되지 않습니다.
나쁜 입력이 만드는 오판과 수정 방법
나쁜 입력은 결론과 감정을 자료보다 앞세웁니다. “이 글은 거짓말이지?”, “문제가 없다고 확실히 말해 줘”처럼 답을 지정하면 AI가 근거를 찾기보다 사용자의 기대에 맞는 설명을 조합할 가능성이 커집니다.
“인터넷에서 찾아서 진짜인지 알려 줘”도 부족한 요청입니다. 검색 범위, 우선할 출처, 확인할 날짜, 상충하는 자료를 처리하는 방법이 빠져 있기 때문입니다. “공식 원문을 우선하고, 서로 다른 내용이 나오면 차이를 설명하며, 직접 뒷받침되지 않는 부분은 판단 보류로 표시해 달라”고 바꾸는 편이 낫습니다.
출처 이름만 붙이는 것도 안전장치가 아닙니다. AI는 틀린 답에 그럴듯한 출처를 붙이거나 존재하지 않는 인용과 연구를 만들어낼 수 있습니다. OpenAI도 중요한 정보는 답변 자체가 아니라 신뢰할 수 있는 자료를 직접 확인해야 한다고 안내합니다. OpenAI의 정확성 안내처럼 AI를 최종 출처가 아닌 초안과 검토 보조 수단으로 다루는 이유입니다.
검색 결과가 나왔다고 사실이 확정되는 것도 아닙니다. 검색형 답변의 인용은 원문과 맞지 않거나 오래된 자료를 가리킬 수 있으므로, 링크를 열어 실제 문장이 주장을 뒷받침하는지 확인하고 게시 또는 수정 시점과 기관의 성격을 함께 살펴야 합니다. ChatGPT 검색 안내의 확인 원칙이 여기에 해당합니다.
의견을 사실처럼 바꾸는 표현도 주의해야 합니다. “전문가들이 모두 인정한다”, “누구나 이렇게 생각한다”, “가장 효과적인 방법이다”처럼 주체와 근거가 없는 문장은 사실 판정 대상이 아니라 평가 문장으로 먼저 분류합니다. 주체, 조사 방식, 비교 기준이 제시되지 않으면 확정적 결론을 붙이지 않습니다.
실제 판단에 활용하는 검토 순서
먼저 원문에서 주장만 뽑습니다. 한 문장에 여러 내용이 들어 있으면 사건, 수치, 원인, 평가를 나누고, 각 주장이 어디에서 나왔는지 표시합니다. 이 단계에서는 맞는지 틀린지 결론을 서두르지 않는 것이 중요합니다.
다음으로 주장마다 확인 가능한 근거를 연결합니다. 공식 문서, 원자료, 당사자의 발언처럼 직접 확인할 수 있는 자료와 누군가의 해석이나 재인용을 구분하고, 같은 자료가 실제로 그 결론까지 말하는지도 살펴봅니다.
그 후 사실과 의견 사이에 추론이 있는지 봅니다. “매출이 증가했다”에서 “앞으로도 성공할 것이다”로 넘어가면 미래 전망이라는 추론이 추가된 것입니다. AI에게 사실 문장, 해석 문장, 전망 문장을 따로 표시하게 하면 이 연결 고리를 볼 수 있습니다.
마지막에는 확정, 부분 확인, 판단 보류로 나눕니다. 근거가 일부만 맞으면 문장 전체를 사실로 처리하지 말고 맞는 부분과 확인되지 않은 부분을 분리합니다. 자료가 부족한 경우에는 억지로 참이나 거짓을 고르게 하지 않고, 어떤 자료가 있어야 판단할 수 있는지 적게 합니다.
이 결과를 실제 결정에 사용할 때는 AI의 분류표만 복사하지 않습니다. 중요한 주장일수록 원문으로 돌아가 문맥과 조건을 읽고, 선택에 영향을 주는 사실과 단순한 의견을 따로 메모합니다. NIST가 정보 무결성에서 강조하는 사실, 의견, 추론, 불확실성의 구분도 이 검토 습관과 맞닿아 있습니다.
NIST 정보 무결성 용어집을 참고하면 분류 기준을 세울 때 도움이 됩니다.
자주 묻는 질문 FAQ
Q1) AI가 사실이라고 분류하면 그대로 믿어도 되나요?
그대로 믿기보다 AI가 제시한 근거와 원문을 대조해야 합니다. AI는 자신 있게 틀린 내용을 말하거나 존재하지 않는 출처를 제시할 수 있습니다. 특히 법률, 계약, 건강, 금융처럼 판단의 영향이 큰 내용은 공식 자료를 직접 확인하고 조건과 예외를 함께 읽어야 합니다.
Q2) 의견과 추론은 어떻게 구분하나요?
의견은 대상에 대한 평가나 선호이고, 추론은 여러 사실을 바탕으로 도출한 해석이나 전망입니다. “가격이 높다”는 비교 기준이 필요한 의견이며, “가격이 높으므로 판매가 줄어들 것이다”는 원인과 결과를 연결한 추론입니다. AI에게 둘을 별도 항목으로 분류하고 연결된 근거를 표시하라고 요청하면 구분하기 쉽습니다.
Q3) 좋은 입력을 만들 시간이 없을 때는 무엇부터 적어야 하나요?
AI가 수행할 작업과 판단 기준부터 한 문장씩 적습니다. 그다음 원문과 자료의 출처 성격을 붙이고, 근거가 없을 때 확정하지 말라는 조건을 추가합니다. 짧은 입력이라도 결론을 유도하는 표현을 빼고 사실, 의견, 추론, 판단 보류를 나누라고 요청하면 결과를 검토할 틀이 생깁니다.