LLM 비식별화(Deanonymization): 익명 계정도 찾는 시대

최근 보안 매체에서 "LLM이 가명(닉네임) 사용자를 꽤 높은 정확도로 찾아낼 수 있다"는 연구가 소개됐습니다.¹ 핵심은 '익명이라 안전하다'가 아니라, 흩어진 글 조각이 LLM에게는 "퍼즐 맞추기 재료"가 된다는 점입니다. 이 글에서는 LLM 비식별화가 어떻게 가능한지, 어떤 조건에서 성능이 뛰어지는지, 그리고 우리가 당장 바꿔야 할 온라인 프라이버시 습관을 정리합니다.

LLM 비식별화란? "글을 증거로 사람을 찾는 기술"

LLM 비식별화(deanonymization)는 한 사람이 온라인에 남긴 텍스트 흔적(댓글, 소개글, 대화)을 모아 "이 계정의 실제 정체" 또는 "다른 플랫폼의 같은 사람 계정"을 추정하는 공격/분석을 말합니다. 예전에도 이런 시도는 있었지만, 보통은 생년월일·우편번호 같은 구조화된 데이터가 필요하거나, 숙련된 사람이 시간을 들여 수작업으로 단서를 엮어야 했습니다.

그런데 최신 연구는 LLM이 비정형 텍스트에서 직업, 지역권(표기 습관), 관심사, 커리어 단계 같은 단서를 뽑아내고, 웹 검색이나 대규모 후보군 대조까지 자동화하면서 "실무적으로 가능한 수준"까지 비용과 시간을 낮췄다고 말합니다.²

LLM이 잘하는 4단계: 추출→검색→추론→신뢰도 조절

이번 계열 연구에서 흥미로운 부분은, 마치 탐정 업무를 분업하듯 파이프라인을 짰다는 점입니다.² 먼저 LLM이 글에서 신원 관련 특징을 구조화해 뽑습니다. 예를 들어 "영국식 철자", "특정 기술 스택", "희귀한 연구 주제", "특정 도시에서의 생활 단서" 같은 것들이죠.¹

다음은 검색입니다. 뽑아낸 특징을 임베딩(의미 벡터)으로 만들어 수만~수백만 후보 프로필 중 '비슷한 사람'을 빠르게 좁힙니다. 그리고 마지막이 결정타인데, 상위 후보 몇 명을 두고 LLM이 "모든 단서가 동시에 성립하는가?"를 따져가며 추론해 오탐을 줄입니다.² 여기에 "확신할 때만 말하기" 같은 보정(calibration)을 넣어 정밀도(precision)를 목표 수준으로 맞춥니다.

요약하면, LLM이 갑자기 초능력을 얻었다기보다 "인간이 하던 연결 작업을 자동화해 값싸게 대량 처리"할 수 있게 된 겁니다.³

실제 성능: 링크드인-해커뉴스, 레딧 교차매칭에서 드러난 변화

연구진은 검증 가능한 정답(ground truth)이 있는 데이터셋을 만들어 실험했습니다. 예컨대 해커뉴스(HN) 프로필에 링크드인 링크가 원래 달려 있던 사용자를 모아, 링크를 지운 뒤 LLM이 다시 찾아내는 식입니다. 그 결과 338명 중 226명을 맞춰 약 67% 재현율을 보였고, 정밀도는 90% 조건으로 맞췄다고 보고됐습니다.⁴ "많이 맞추되, 누명은 최소화"에 초점을 둔 설정입니다.

또 다른 축은 레딧 영화 커뮤니티처럼 관심사가 겹치는 환경에서의 계정 연결입니다. 공유된 영화/취향 단서가 많을수록 연결이 쉬워졌고, 10편 이상 같은 영화를 언급한 사용자 그룹에서는 재현율이 크게 뛰는 경향이 관찰됐습니다.¹ 즉, 한두 번의 글보다 "꾸준한 누적"이 위험을 키웁니다.

시사점: '익명'이 아니라 '분리'가 핵심 방어선

이 연구들이 던지는 메시지는 단순합니다. 이제 익명성은 기술이 아니라 운영 문제입니다. 같은 닉네임을 안 써도, 말투·관심사·직무 디테일·생활권 힌트가 여러 곳에 반복되면 LLM이 그 조합을 지문처럼 씁니다.²

현실적인 대책은 "완벽한 은신"이 아니라 "계정과 맥락의 분리"입니다. 한 계정은 직무 이야기를, 다른 계정은 지역/취미 이야기를 하는 식의 분업은 오히려 연결 단서를 늘릴 수 있습니다. 대신 특정 계정에서는 직장·프로젝트·희귀한 사건(수상, 발표, 이직 타이밍)처럼 교차검색이 쉬운 '마이크로 디테일'을 줄이고, 장기적으로 한 사람이 쌓아가는 글의 프로필링을 전제해야 합니다.

무엇보다 "나를 특정할 수 있는 단서가 이 글에 몇 개나 들어있지?"를 게시 전 마지막 체크리스트로 두세요. 예전엔 그 단서들을 누군가가 일일이 줍고 다녀야 했지만, 지금은 그 일을 LLM이 대신해주는 시대니까요.²

참고

¹LLMs can unmask pseudonymous users at scale with surprising accuracy

²Large-scale online deanonymization with LLMs

³LLM-Assisted Deanonymization - Schneier on Security

⁴LLMs killed the privacy star, we can't rewind, we've gone too far