딥페이크 허위정보의 위험은 “가짜 영상을 얼마나 정교하게 만들 수 있는가”에만 있지 않다. 더 중요한 질문은 이것이다. 사람들은 어떤 얼굴, 목소리, 집단의 말을 더 쉽게 믿는가? 그리고 그 믿음은 소셜미디어 안에서 어떻게 퍼지는가?
딥페이크는 기술로 만들어지지만, 허위정보로 작동하는 순간에는 사람의 판단, 편향, 관계망을 타고 움직인다. 그래서 대응도 단순한 탐지 기술을 넘어, 우리가 콘텐츠를 받아들이고 확인하는 방식까지 다뤄야 한다.
딥페이크가 허위정보 연구의 중요한 사례인 이유
딥페이크는 AI로 만든 이미지, 영상, 음성 등 합성 미디어를 뜻한다. 실제 인물처럼 보이거나 들리게 만들 수 있기 때문에 사기, 정치 선동, 평판 훼손 같은 피해로 이어질 수 있다.1
연구자들이 딥페이크를 허위정보 연구의 좋은 사례로 보는 이유는 비교적 분명하다. 어떤 영상이 딥페이크인지 아닌지를 이분법적으로 구분할 수 있고, 영상 속 인물의 나이·성별·인종 같은 인구통계적 속성을 시청자가 직접 판단할 수 있기 때문이다.2
이 점은 딥페이크 문제를 더 복잡하게 만든다. 딥페이크는 단지 “가짜냐, 진짜냐”의 문제가 아니라 “누가 누구의 가짜를 더 쉽게 믿거나 의심하는가”의 문제이기도 하다.
허위정보는 편향을 타고 확산된다
한 연구는 ‘다양한 허위정보’를 인간의 편향과 허위정보에 등장하는 인구통계적 특성 사이의 복잡한 관계로 설명한다.2 같은 딥페이크 영상이라도 시청자의 배경, 익숙함, 선입견에 따라 탐지 능력이 달라질 수 있다는 뜻이다.
이 연구는 미국 기반 소셜미디어 이용자 2,016명을 대상으로 딥페이크 탐지 능력을 조사했다.2 특히 중요한 설계가 있다. 참가자들에게 “딥페이크를 찾아보라”고 말하지 않고, 영상의 커뮤니케이션 스타일을 평가한다고 안내했다.2
이는 실제 소셜미디어 환경과 닮아 있다. 사람들은 대부분 경고문과 함께 콘텐츠를 보지 않는다. 피드에서 우연히 영상을 보고, 이미 알고 있다고 생각하는 인물이나 집단을 떠올리며, 주변 반응을 참고해 판단한다. 딥페이크가 위험한 이유도 여기에 있다. 영상이 그럴듯하고, 내가 믿고 싶은 이야기와 맞아떨어지며, 주변 사람들이 공유하고 있다면 의심은 더 어려워진다.
따라서 “눈 깜빡임이 어색한지 보라” 같은 기술적 단서 교육만으로는 충분하지 않다. 그런 단서는 시간이 지나면 제작 기술의 발전에 따라 쉽게 무력화될 수 있다. 더 중요한 것은 콘텐츠를 볼 때 자신의 확신과 감정이 판단을 앞서고 있지 않은지 점검하는 습관이다.
대응의 핵심은 개인의 눈썰미보다 확인 문화다
딥페이크 대응은 개인에게 모든 책임을 떠넘기는 방식이어서는 안 된다. 물론 기본적인 미디어 리터러시는 필요하다. 하지만 실제 피해는 조직과 공동체의 일상적인 절차가 약할 때 커진다.
예를 들어 딥페이크 음성이나 영상은 결재, 송금, 긴급 요청 같은 평범한 업무 흐름 안으로 들어올 수 있다. 이때 필요한 것은 누군가 혼자서 가짜를 정확히 알아맞히는 능력만이 아니다. 잠시 멈추고, 다른 채널로 확인하고, 의심스러운 요청을 보고해도 불이익이 없는 절차가 필요하다.
핀란드의 사례는 참고할 만하다. 핀란드는 수십 년 동안 미디어 리터러시를 교육과정에 포함해 왔고, 최근에는 AI로 만든 이미지와 영상을 구별하는 교육까지 확장하고 있다.3 이는 단발성 캠페인이 아니라 사회가 정보를 다루는 기본 습관을 만드는 일에 가깝다.
딥페이크 시대의 회복력은 더 똑똑한 개인 한 명에게서 나오지 않는다. 의심을 무례로 보지 않고, 확인을 지연으로 보지 않는 문화에서 나온다. 기술 탐지는 중요한 방어선이지만, 마지막 판단은 여전히 사람과 그 사람이 속한 공동체의 습관이 만든다.
1The harm of deepfakes: a scoping review of deepfakes' negative effects on human mind and behavior
2Diverse misinformation: impacts of human biases on detection of deepfakes on networks
3After decades of teaching media literacy, Finland equips students with skills to spot AI deepfakes
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.