Gemini 대화는 왜 팩트시트보다 음모론 신념을 더 낮췄을까
음모론을 바로잡으려면 더 많은 사실을 제시하는 것만으로 충분할까. 두 온라인 실험은 개인의 주장과 근거를 짚어 묻는 Gemini 대화가 출처를 포함한 팩트시트보다 음모론 신념을 낮추는 데 더 효과적일 수 있음을 보여준다. 중요한 차이는 정보의 양보다 사용자가 자신의 판단 과정을 돌아보게 했다는 데 있다.
사실 전달보다 판단 과정에 개입하기
미국 성인 472명과 1,035명이 참여한 두 실험에서 참가자들은 Gemini 대화, 출처가 포함된 팩트시트, 무관한 주제의 대조군 대화 중 하나에 무작위로 배정됐다. 평균 약 7분간 진행된 Gemini 대화는 두 실험 모두에서 팩트시트와 대조군 대화보다 참가자 자신의 음모론 신념을 더 크게 낮췄다.1
이 결과를 이해하는 데 유용한 개념이 ‘거리 인식론’이다. 이는 상대의 결론을 직접 공격하기보다 믿음이 어떤 과정을 거쳐 형성됐는지, 진실을 판별하는 방법은 얼마나 신뢰할 만한지를 질문하는 대화 접근법이다.
별도 연구에서는 자신의 믿음을 뒷받침하는 근거와 그 믿음에 대한 유보점을 성찰하는 것만으로도 음모론에 대한 확신이 약해졌다. 거리 인식론자 역할을 부여받은 AI 챗봇도 사용자가 제시한 정당화 근거를 질문하는 방식으로 개입했다.2 즉, 효과의 핵심은 정답을 일방적으로 전달하는 것이 아니라 사용자가 자신의 근거와 추론을 직접 점검하도록 돕는 데 있을 수 있다.
대화는 지식의 빈틈을 드러낸다
이 과정은 ‘설명 깊이의 착각’과도 연결해 볼 수 있다. 설명 깊이의 착각은 사람이 사물, 자연 현상, 사회 시스템의 작동 원리를 설명하는 능력을 실제보다 높게 평가하는 현상이다.2 복잡한 사건을 잘 이해한다고 생각하더라도, 근거와 인과관계를 구체적으로 설명하려 하면 지식의 빈틈이 드러날 수 있다.
팩트시트는 검증된 정보를 제공하지만, 대화는 사용자의 주장에 맞춰 “그 결론을 뒷받침하는 근거는 무엇인가”, “다른 설명은 가능한가”, “아직 확인되지 않은 부분은 무엇인가”를 묻는다. Gemini 개입의 실용적 가치는 바로 이처럼 사용자가 자신의 확신과 근거 사이의 간격을 확인하도록 돕는 데 있다.
신념 변화의 범위와 한계
다만 모든 사람과 태도에 같은 효과가 나타나는 것은 아니다. 별도 연구에서는 특정 믿음의 정확성을 중요하게 여긴다고 응답한 사람일수록 성찰 개입 후 그 믿음을 덜 낮추는 경향이 나타났다. 사건을 음모의 결과로 해석하는 성향이 강한 사람도 챗봇 사용 여부와 관계없이 성찰 개입의 효과가 작았다.2
신념의 변화가 다른 태도의 변화로 자동 연결되는 것도 아니다. Kirk 사건 실험에서 LLM 대화는 정치적 폭력 지지에 측정 가능한 영향을 주지 않았다.1 따라서 음모론 신념이 낮아졌다는 결과를 폭력 지지나 행동 의도까지 달라졌다는 의미로 확대해서는 안 된다.
이번 사건들이 사용된 모델의 학습 종료 시점 이후에 발생했다는 점도 중요하다. 연구진은 확인된 사실, 반박된 주장, 미해결 질문으로 구성된 자료를 시스템 프롬프트에 제공했다.1 이는 성과를 좌우하는 조건이 Gemini라는 이름 자체만이 아니라 최신 근거를 제공하고, 확인된 내용과 불확실한 내용을 구분하는 설계에 있음을 보여준다.
요약: Gemini를 답변기가 아닌 질문 도구로 보기
Gemini 개입의 핵심은 사용자를 즉시 설득하는 데 그치지 않고, 스스로 판단 과정을 점검하도록 만드는 데 있다. 실무에서 비슷한 접근을 적용한다면 다음 질문에 초점을 맞출 수 있다.
이 믿음을 뒷받침하는 가장 강한 근거는 무엇인가?
그 근거의 출처와 검증 방법은 신뢰할 만한가?
어떤 증거가 확인되면 생각을 바꿀 수 있는가?
확인된 사실, 반박된 주장, 미해결 질문을 구분했는가?
효과를 평가할 때도 단기적인 신념 변화만 볼 것이 아니라, 사용자가 이후 Gemini 없이도 새로운 주장의 근거와 불확실성을 검토할 수 있는지까지 살펴봐야 한다.
1Seven minutes with a chatbot beat a fact sheet at reducing conspiracy beliefs in two experiments
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.