AI 영상의 위험은 단순히 콘텐츠가 가짜라는 데 있지 않다. 누군가의 얼굴과 그 사람이 쌓아 온 신뢰를 허락 없이 복제해 광고, 사기, 허위 발언에 악용할 수 있다는 점이 더 큰 문제다.
TikTok이 테스트 중인 ‘AI 외형 탐지’는 크리에이터가 자신의 외형을 모방한 콘텐츠를 찾아 검토하고 신고할 수 있도록 돕는 선택형 도구다.
AI 콘텐츠 표시와 외형 보호는 다르다
기존 AI 라벨은 영상이 AI로 제작됐거나 크게 수정됐는지를 알리는 장치다. TikTok은 현실적인 합성 콘텐츠에 표시를 요구하고 관련 탐지 기술도 시험해 왔다.1
새 도구가 던지는 질문은 다르다. “이 영상은 AI로 만들었는가?”가 아니라 “이 영상이 특정 크리에이터의 외형을 모방했는가?”를 확인한다.
탐지된 콘텐츠가 곧바로 삭제되는 것은 아니다. 크리에이터가 결과를 직접 검토한 뒤 무단으로 외형을 사용한 게시물이나 계정을 신고하는 구조다.2 즉, 최종 판단과 대응에는 당사자의 참여가 필요하다.
보호 기능을 쓰려면 먼저 신원을 확인해야 한다
초기 테스트는 일부 미국 크리에이터를 대상으로 진행되며, 참여 여부는 선택할 수 있다. 참여자는 신원 확인 업체 Jumio를 통해 실시간 셀피 촬영과 신분증 검증을 거쳐야 한다.2 플랫폼이 기준이 될 실제 외형과 신원을 확인해야 유사한 AI 콘텐츠를 찾을 수 있기 때문이다.
TikTok은 신분증 문서를 보관하지 않으며, 얼굴 정보는 외형 일치 여부 확인과 잠재적인 무단 사용 탐지에만 활용한다고 밝혔다.2 다만 참여를 고려하는 크리에이터라면 다음 사항을 확인할 필요가 있다.
얼굴 정보가 얼마나 오래 보관되는가
TikTok과 Jumio가 각각 어떤 데이터에 접근하는가
기능을 해지하면 관련 정보가 삭제되는가
얼굴 정보가 AI 학습 등 다른 목적으로 사용되는가
YouTube의 유사 기능 역시 크리에이터 보호 가능성과 함께 생체정보 처리 범위에 대한 우려를 낳았다.3 외형 탐지 도구는 정확도뿐 아니라 데이터 수집·보관·삭제 정책까지 명확해야 신뢰를 얻을 수 있다.
핵심 판단 기준은 탐지율보다 통제권이다
이 도구의 의미는 플랫폼이 얼굴을 단순한 이미지가 아니라 보호가 필요한 디지털 정체성으로 다루기 시작했다는 데 있다. 그러나 탐지만으로는 충분하지 않다. 오탐에 이의를 제기할 절차, 신고 이후의 처리 기준과 속도, 생체정보를 삭제할 권리가 함께 마련돼야 실질적인 보호 수단이 된다.
크리에이터는 기능을 사용하기 전에 데이터 처리 범위와 삭제 절차를 살펴봐야 한다. 플랫폼도 “무단 복제를 찾아준다”는 약속을 넘어, 외형 데이터에 대한 최종 통제권이 당사자에게 남는 구조를 보여줘야 한다.
1TikTok debuts new tools and technology to label AI content
3YouTube's new AI deepfake tracking tool is alarming experts and creators
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.