Clarifai가 OkCupid로부터 받은 약 300만 장의 사용자 사진과, 그 데이터로 학습된 얼굴인식 모델을 삭제했다고 확인했다는 보도가 나왔습니다.1 이 사건의 출발점은 2014년으로 거슬러 올라가며, FTC는 OkCupid가 당시 자사 개인정보 처리 방침과 어긋나게 사진, 인구통계, 위치 정보를 외부 기업에 넘겼다고 봤습니다.23
이 뉴스가 지금 중요한 이유는 Clarifai 한 회사의 과거 이슈 때문만이 아닙니다. 컴퓨터 비전 API나 멀티모달 플랫폼을 고르는 일은 보통 정확도, 속도, 가격 비교로 끝나기 쉽습니다. 하지만 실제로는 "내 고객 데이터가 어디로 가고, 얼마나 남고, 무엇을 다시 학습시키는가"를 함께 사는 결정에 더 가깝습니다.
Clarifai는 모델 벤더가 아니라 데이터 정책 결정이기도 하다
확인된 사실부터 보죠. FTC 문서에 따르면 Clarifai CEO는 2014년 OkCupid 공동창업자에게 대규모 사진 데이터 접근을 요청했고, OkCupid 측은 거의 300만 장의 사진과 추가 개인정보를 넘겼습니다. 그 과정에 정식 계약도, 사용 제한도 없었다는 것이 FTC의 설명입니다.2 이후 Clarifai는 올해 4월 해당 데이터와 그로 학습된 모델을 삭제했다고 인증했습니다.14
여기서 실무자가 읽어야 할 핵심은 "삭제했다"보다 "애초에 어떤 통제가 없었나"입니다. 계약이 없었다는 건 보관 기간, 재학습 허용 범위, 제3자 공유 금지, 삭제 검증 방식 같은 기본 가드레일이 없었다는 뜻입니다. AI 플랫폼을 붙일 때 진짜 위험은 모델 성능이 아니라 이런 빈칸에서 시작합니다.
특히 얼굴 사진은 민감합니다. 단순 이미지가 아니라, 관할 지역에 따라 생체정보나 그에 준하는 민감 정보로 다뤄질 수 있기 때문입니다. FTC 사건은 연방 차원에선 "기만적 데이터 처리" 문제로 다뤄졌지만, 주법이나 해외 규제 환경에서는 훨씬 더 무거운 쟁점이 될 수 있습니다.5 데이팅앱처럼 맥락 자체가 민감한 서비스라면 평판 리스크는 더 커집니다.
반론도 가능합니다. 관리형 플랫폼은 빠르고, 초기 팀이 직접 비전 모델과 인프라를 운영하는 것보다 훨씬 현실적입니다. 맞는 말입니다. 다만 속도를 사는 대신 데이터 통제권 일부를 넘기는 구조라면, 그 교환 조건을 계약과 아키텍처에서 분명히 확인해야 합니다.
고객 이미지를 외부 AI 플랫폼에 넣기 전, 제가 꼭 묻는 7가지
실무에서는 아래 질문이 정확도 벤치마크보다 먼저 나와야 합니다.
첫째, 업로드한 데이터가 공용 모델이나 벤더 내부 모델 개선에 재사용되는가. "서비스 제공 목적"과 "모델 개선 목적"은 계약상 전혀 다른 권리입니다.
둘째, 삭제가 기술적으로 어떻게 보장되는가. 원본만 지우는지, 파생 임베딩·백업·학습 산출물까지 포함하는지 확인해야 합니다. 이번 사건에서도 Clarifai는 원본과 모델 삭제를 각각 확인했습니다.41
셋째, 저장 위치와 처리 지역을 고를 수 있는가. 이미지가 국외로 나가는 순간 규제 부담이 달라질 수 있습니다.
넷째, 감사 로그와 접근 통제가 충분한가. 누가 어떤 데이터를 봤고 내보냈는지 남지 않으면 사고 후 대응이 불가능합니다.
다섯째, 생체정보·민감정보에 대한 별도 약관이나 DPA가 있는가. 일반 SaaS 약관만으로는 부족한 경우가 많습니다.
여섯째, 온프레미스·VPC·엣지 배치 옵션이 있는가. 규제가 강한 업종일수록 "API 호출"보다 "내 환경 안에서 실행"이 더 중요합니다.
일곱째, 벤더가 삭제·보관·재학습 금지를 문서로 증명할 수 있는가. 세일즈 콜 답변이 아니라 계약 문구와 운영 문서가 필요합니다.
언제는 Clarifai 같은 플랫폼이 맞고, 언제는 오픈소스나 인하우스가 낫나
Clarifai 같은 관리형 플랫폼이 맞는 경우는 분명합니다. 프로토타입 단계, 비핵심 기능, 빠른 배포가 중요한 워크플로라면 큰 이점이 있습니다. 모델 서빙, 확장성, 기본 파이프라인을 바로 가져갈 수 있기 때문입니다.
반대로 사용자 얼굴, 의료 이미지, 출입통제 영상처럼 민감도가 높은 데이터를 다룬다면 얘기가 달라집니다. 이 경우엔 오픈소스 모델을 VPC나 사내 환경에서 돌리는 편이 개발은 더 무겁더라도 통제 가능성이 높습니다. 장기적으로 호출량이 커질수록 비용 구조도 관리형 API보다 유리해질 수 있습니다.
물론 자체 구축도 만능은 아닙니다. 보안, MLOps, 편향 검증, 삭제 요청 대응까지 직접 책임져야 합니다. 즉 선택지는 "플랫폼이냐 직접 구축이냐"가 아니라, "속도와 운영 편의" 대 "통제와 설명 가능성" 사이의 트레이드오프입니다. 이번 사건은 그 균형점을 기술팀만이 아니라 법무, 보안, 제품이 함께 정해야 한다는 점을 보여줍니다.
사용자가 묻기 전에 '놀랄 일 없는' AI 데이터 정책을 써야 한다
이번 FTC 조치는 OkCupid와 Match가 향후 20년간 데이터 처리와 프라이버시 관련 진술을 허위로 하지 못하도록 묶었습니다.3 이것이 시사하는 바는 단순합니다. 문제는 종종 "나쁜 모델"보다 "현실과 다른 설명"에서 터집니다.
그래서 제품팀은 최소한 네 가지를 문서화해야 합니다. 어떤 이미지를 왜 수집하는지, 외부 AI 벤더에 무엇을 보내는지, 학습 재사용을 허용하는지, 사용자가 삭제·거부를 요청하면 어디까지 반영되는지입니다. 이 내용이 내부 운영 문서와 외부 개인정보 처리방침에서 서로 다르면, 나중엔 기술 문제가 아니라 신뢰 문제로 돌아옵니다.
이 사안을 특히 신경 써야 할 사람은 얼굴, 영상, 신원확인, 추천, 안전 기능에 AI를 붙이려는 창업자와 PM, 그리고 조달을 검토하는 엔지니어링 리더입니다. 이제 물어야 할 질문은 "이 플랫폼 성능이 좋은가?" 하나가 아닙니다. "이 플랫폼을 넣는 순간, 우리 데이터 책임의 경계가 어디까지 바뀌는가?"가 더 먼저입니다.
참고
1Clarifai deletes 3 million photos that OkCupid provided to train facial recognition AI, report says
2OkCupid gave 3 million dating-app photos to facial recognition firm, FTC says
3FTC order bars OkCupid from misleading users about biometric data sharing
5Dating app shared millions of users' photos without permission, FTC says | kare11.com
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.