AI 스팸은 더 이상 어색한 문장이나 반복 링크만으로 구분하기 어렵습니다. 사람처럼 말하고, 여러 계정이 함께 움직이며, 특정 주제나 상품을 자연스럽게 띄우는 방식으로 진화하고 있습니다.
Reddit이 LLM을 스팸 탐지에 활용하는 이유도 여기에 있습니다. 핵심은 “이 글이 AI가 쓴 글인가”를 맞히는 데 있지 않습니다. 커뮤니티 안에서 조작된 행동과 노출을 얼마나 빨리 찾아내고, 사용자가 보기 전에 막을 수 있느냐에 있습니다.
핵심은 게시물보다 계정과 행동 패턴
Reddit이 강조하는 방향은 사후 삭제가 아니라 사전 차단입니다. 계정이 만들어지는 시점의 신호를 분석해, 의심스러운 행위자가 게시하기 전에 막는 방식입니다.1
이 접근은 AI 스팸의 특성과 맞닿아 있습니다. 개별 게시물이나 댓글은 짧고 자연스러워 보일 수 있습니다. 그러나 여러 계정이 비슷한 흐름으로 움직이거나, 특정 콘텐츠에 비정상적으로 투표가 몰리거나, 인위적으로 관심이 부풀려지는 패턴은 단일 문장만 봐서는 드러나지 않습니다.
Reddit은 기존 시스템이 놓치던 미묘하고 조직적인 가짜 행동, 인위적인 과열 신호를 포착하는 데 LLM을 활용한다고 설명했습니다.1 즉 LLM의 역할은 문장 판별기를 넘어, 계정·투표·게시 흐름이 만드는 맥락을 읽는 데 가깝습니다.
보기 전에 막는 것이 왜 중요한가
스팸 대응에서 가장 비용이 큰 순간은 사용자가 이미 본 뒤입니다. 신고를 받고 삭제하더라도 노출은 발생했고, 커뮤니티의 신뢰도는 이미 손상될 수 있습니다. Reddit이 “사람에게 보이기 전에 차단하는 것”을 가장 효과적인 안전 작업으로 규정하는 이유입니다.1
Reddit은 관련 성과도 공개했습니다. 하루 2,300만 건의 스팸 조회를 차단하고, 매일 약 2만5,000개의 신규 스팸 게시물과 댓글을 적발한다고 밝혔습니다.1 또한 2026년 1월부터 3월까지 사용자 스팸 노출을 직전 3개월 대비 약 20% 줄였다고 했습니다.1
여기에 더해 최근 3개월 동안 하루 약 200만 건의 비정상 투표를 취소했고, 스팸 계정 노출도 전체적으로 추가 10~15% 감소했다고 밝혔습니다.1 이는 Reddit의 스팸 대응이 게시물 삭제에만 머물지 않고, 노출을 키우는 투표와 계정 행동까지 함께 다룬다는 점을 보여줍니다.
자동화 계정에는 검증 절차를 더한다
LLM 기반 탐지가 모든 것을 자동으로 해결하는 것은 아닙니다. Reddit은 수상한 자동화 계정에 사람임을 검증하도록 요구하는 절차도 도입한다고 밝혔습니다.1
이 대목이 중요합니다. AI 스팸은 콘텐츠 문제이면서 동시에 신원과 행동의 문제입니다. 탐지는 모델이 도울 수 있지만, 신뢰 판단은 계정 생성 신호, 반복 행동, 투표 패턴, 커뮤니티 맥락, 필요할 때의 사람 검증이 함께 작동해야 가능합니다.
따라서 Reddit의 접근은 “LLM으로 AI 글을 잡는다”보다 넓습니다. 더 정확히는 LLM을 이용해 의심스러운 행동의 연결성을 읽고, 자동 차단과 검증 절차를 결합해 조작된 노출을 줄이는 방식입니다.
커뮤니티 운영자가 배울 점
Reddit의 사례는 다른 커뮤니티에도 실용적인 기준을 줍니다. AI 시대의 스팸 대응은 “나쁜 글을 빨리 지운다”에서 “조작된 노출을 사용자가 보기 전에 줄인다”로 이동하고 있습니다.
운영자가 봐야 할 신호도 넓어집니다.
새 계정이 만들어지는 방식과 초기 행동
비슷한 문장보다 비슷한 행동 흐름
특정 게시물에 몰리는 비정상 투표
여러 계정이 만드는 인위적 과열
자동화가 의심될 때의 사람 검증 절차
Reddit 같은 사용자 생성 콘텐츠 플랫폼은 AI 검색과 답변 시스템의 입력값이 되기도 합니다. 한 연구 보도에 따르면 Reddit이나 Wikipedia 같은 사이트의 짧은 문구도 AI 검색 결과에 영향을 줄 수 있습니다.2 플랫폼 안의 스팸이 외부 검색과 AI 답변까지 오염시킬 수 있다는 뜻입니다.
결국 Reddit의 LLM 스팸 탐지는 “AI가 쓴 글을 찾아내는 기술”이라기보다 “AI 시대의 조작된 행동을 조기에 차단하는 운영 전략”에 가깝습니다. LLM은 그 전략의 중요한 도구지만, 답은 LLM 하나가 아닙니다. 자동 탐지, 계정 신호 분석, 투표 이상 감지, 사람 검증, 커뮤니티 신고가 함께 작동할 때 스팸 노출을 실질적으로 줄일 수 있습니다.
참고
1How We're Keeping Reddit Real and Safe in the AI Era
2It Is Trivially Easy to Use Reddit to Manipulate AI Search, Research Suggests
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.