AI 시대, 인공지능이 대중 선호도를 어떻게 뒤흔드는가: 엘리트의 전략적 설득과 분극화

민주주의에서 대중의 의견은 정책 결정의 핵심입니다. 그런데 AI(인공지능) 기술이 발전하면서, 엘리트 집단은 전과는 비교도 안 될 정도로 저렴하고 정교하게 대중의 선호도를 바꿀 수 있게 됐습니다. 과연 우리는 앞으로 어떤 사회를 맞이하게 될까요? 이번 글에서는 AI가 설득 비용을 낮추면서, 엘리트가 대중의 의견을 전략적으로 조작·유도하는 방식과 그 결과로 나타나는 분극화(Polarization), 그리고 민주주의의 미래까지 흥미진진하게 살펴봅니다.

AI 시대: 설득의 판이 뒤바뀌다

예전엔 대중의 생각을 바꾸려면 방송, 학교, 신문 등 느리고 비싼 매체를 동원해야 했습니다. 엘리트들도 선거기간마다 광고 영상을 뿌리거나, 교과서 내용을 바꾸는 정도가 한계였죠. 그런데 최근엔 AI가 대량의 맞춤형 메시지를 실시간으로 뿌릴 수 있습니다. '클라우드 위의 천재 국가'처럼, AI는 국민 하나하나의 심리와 취향을 분석해서 딱 맞는 설득 전략을 세울 수 있고, 그 비용은 거의 제로에 가까워지고 있습니다.

실제로 최근 실험에서는, AI 챗봇이 특정 정치 후보를 설득하는 대화를 걸면, 그 효과가 전통 영상 광고보다 훨씬 더 강하게 나타났다는 결과도 나왔습니다. 미국·캐나다·폴란드 등 다양한 국가에서 실험이 이뤄졌는데, AI 챗봇과의 대화만으로도 여론이 크게 이동했죠.

엘리트의 새로운 전략: 극단화에서 반잠금까지

그렇다면 엘리트(정당, 권력자 등)는 AI의 설득력을 어떻게 활용할까요? 최신 연구는 두 가지 주요 상황을 제시합니다.

1명 엘리트가 지배하는 사회: 분극화의 가속

단일 엘리트 집단이 정책 결정을 좌지우지하는 나라에서는, AI를 통해 대중의 여론을 '분극화'로 끌고 가는 경향이 강해집니다. 즉, 의견이 명확히 양분된 상태를 인위적으로 만드는 겁니다. 왜냐하면, 사회가 대립 쪽에 가까울수록 정책을 바꿔야 할 때 반대편으로 국민 의견을 옮기는 비용이 훨씬 작아지기 때문입니다. 자주 밑에 깔린 대중의 의견이 바뀌는 걸 고려하면, 이런 전략적 분극화는 '보험처럼' 작동하죠.

경쟁하는 엘리트들: 반잠금 상태의 유혹

그러나 경쟁하는 두 엘리트(예: 보수 vs 진보 정당)가 번갈아 집권하는 경우, 상황은 복잡해집니다. 둘 다 AI의 힘으로 국민 의견을 쉽게 바꿀 수 있다면, 반대파가 집권할 때 내 정책이 바로 뒤집히는 위험이 생기죠. 이럴 때에는 오히려 대중 여론을 한 쪽으로 똘똘 뭉치게 만들어서(이른바 'semi-lock' 반잠금 상태), 상대가 쉽게 뒤집을 수 없게 만드는 전략이 나옵니다. 경쟁 구조에 따라, AI 설득은 분극화를 더 키우거나 오히려 줄일 수도 있다는 뜻입니다.

AI 설득의 실제 모습: 정보량은 많지만 정확도는 별로?

실험에 따르면, AI 챗봇은 참가자들에게 대화를 통해 의견을 바꾸는 데 매우 효과적이었습니다. 특히 많은 정보를 주거나, 다양한 논리를 펼칠 때 설득력이 극대화됐는데, 그만큼 '정확하지 않은 정보'를 많이 사용한다는 문제가 드러났습니다. AI 챗봇이 주로 팩트와 증거를 바탕으로 설득하려 했지만, 최신 대형 모델일수록 오히려 정확도가 낮아지는 현상이 뚜렷해진 것이죠.

이런 현상은 "설득력 극대화와 정확성 간의 딜레마"로 이어지며, 미래에는 악의적 엘리트가 AI를 활용해 허위 정보를 퍼트려 사회를 극단적으로 분열시키는 위험도 커질 수 있습니다.

AI 시대의 정책 분포: 대중의 의견은 이제 '디자인' 대상

이 연구들은 분극화가 오롯이 사회경제적 변화의 결과물이라고 보지 않고, 엘리트에게 '입맛대로 설계 가능한 정책 도구'로 변한다는 점을 강조합니다. AI-driven 설득력 덕분에, 엘리트는 집권 기간 동안뿐만 아니라 미래까지 내다보며 사회의 의견 지형을 전략적으로 리모델링할 수 있습니다. 대중의 의견마저 정책 수단이 되어버리는 시대가 온 것입니다.

시사점과 실용 조언

AI 기술과 설득 비용의 변화는 민주주의 작동 방식 자체를 바꿔놓고 있습니다. 우리는 다음에 무엇을 경계해야 할까요?

• 정확성 검증 습관화: AI 추천이나 정치적 메시지를 접할 때, 그 내용의 진실성과 출처를 꼭 확인하세요.

• 비판적 사고 키우기: 정보가 빠르고 많이 쏟아지는 시대일수록, 자기 생각을 한 번 더 검증하는 습관이 중요합니다.

• 대중의 감시와 투명성 요구: AI를 활용한 여론 조작이 사회적 혼란으로 이어지지 않도록, 정책과 알고리즘의 투명성을 요청하는 시민의 목소리가 필요합니다.

AI의 등장은 대중의 생각, 그리고 민주주의의 미래까지 '디자인'할 수 있는 힘을 엘리트에게 쥐어주고 있습니다. 이제는 대중과 사회 전체가 더 지혜롭게 대응해야 할 시기입니다.

참고

[1] Polarization by Design: How Elites Could Shape Mass Preferences as AI Reduces Persuasion Costs - arXiv

[2] Persuading voters using human–artificial intelligence dialogues - Nature

[3] AI chatbots used inaccurate information to change political opinions: Study - NBC News