메타 MCI가 보여주는 것: AI는 이제 문서가 아니라 '일하는 방식'까지 학습하려 한다

메타가 미국 직원들의 업무용 컴퓨터에서 마우스 움직임, 클릭, 키 입력, 일부 화면 정보를 수집하는 Model Capability Initiative(MCI)를 도입했습니다. 회사 설명대로라면 목적은 직원 평가가 아니라, 컴퓨터를 더 잘 다루는 AI 에이전트를 훈련하는 것입니다.¹²

이 뉴스가 중요한 이유는 따로 있습니다. 이것은 단순한 사내 감시 강화 사건이 아니라, AI 학습 데이터의 무게중심이 공개 웹과 문서에서 실제 업무 행동으로 옮겨가고 있다는 신호이기 때문입니다. 이제 경쟁력은 "무엇을 아는 모델인가"보다 "사람이 소프트웨어를 다루는 방식을 얼마나 잘 흉내 내는가"로 이동하고 있습니다.³⁴

AI가 갑자기 당신의 클릭과 멈춤에 관심을 갖는 이유

지금의 생성형 AI는 텍스트 요약, 코드 작성, 문서 검색에는 강합니다. 반면 실제 업무에서는 의외로 단순한 부분에서 자주 막힙니다. 드롭다운 메뉴를 고르고, 여러 창을 오가고, 단축키를 쓰고, 오류가 나면 우회 경로를 찾는 일입니다. 메타가 MCI로 모으려는 것은 바로 이 층위의 데이터입니다.²⁵

이 데이터의 가치는 스크린샷 자체보다 "순서"에 있습니다. 어떤 버튼을 언제 눌렀는지, 실패 후 무엇을 다시 시도했는지, 어느 앱에서 어느 앱으로 넘어갔는지가 중요합니다. 문서만 봐서는 알 수 없는 암묵지가 여기 들어 있습니다.

그래서 MCI를 그냥 감시 소프트웨어로만 보면 절반만 본 셈입니다. 물론 감시 도구의 성격이 있는 것도 사실이지만, 기술적으로는 GUI 사용법, 작업 순서, 예외 처리, 인간의 개입 시점을 배우려는 데이터 수집 시스템에 가깝습니다. 메타 CTO 앤드루 보즈워스가 에이전트가 주로 일을 하고 인간은 지시·검토·개선하는 쪽으로 간다고 설명한 것도 같은 맥락입니다.³

실무적으로 보면 이건 향후 엔터프라이즈 AI 제품의 품질 차이를 가를 가능성이 큽니다. 공개 데이터만 먹인 모델보다, 실제 사내 도구 사용 흐름을 배운 모델이 업무 자동화에서 더 강할 수 있기 때문입니다.

진짜 질문은 프라이버시 대 생산성이 아니다

더 어려운 문제는 따로 있습니다. AI가 직원들의 실제 업무 행동을 배운다면, 무엇을 배우게 되느냐는 것입니다.

잘 설계되면 숙련자의 노하우가 들어갑니다. 하지만 동시에 나쁜 습관도 들어갑니다. 급한 마감 때문에 생긴 우회 절차, 보안 규정을 대충 넘기는 방식, 번아웃 상태에서의 과속 작업도 데이터로 남습니다. AI는 "최선의 일 방식"이 아니라 "가장 자주 관측된 일 방식"을 배울 가능성이 큽니다.

여기서 측정 가능성과 좋은 업무가 충돌합니다. 클릭 수와 처리 속도는 잡히지만, 맥락 판단, 윤리적 망설임, 동료와의 비공식 조율은 잘 안 잡힙니다. 그러면 AI는 보이는 행동을 최적화하고, 보이지 않는 전문성은 빠뜨릴 수 있습니다.

메타는 수집 데이터가 성과평가에 쓰이지 않는다고 밝혔고, 민감한 콘텐츠 보호 장치가 있다고 했습니다.²⁵ 하지만 외부에서는 바로 이 지점이 핵심 리스크라고 봅니다. 원래 AI 학습용으로 모은 행동 로그가 시간이 지나 생산성 관리나 인사 판단에 재사용될 수 있다는 우려입니다.³ 게다가 사람은 감시받는다고 느끼는 순간 원래처럼 일하지 않습니다. 그러면 모델은 자연스러운 업무가 아니라 관찰을 의식한 업무를 학습하게 됩니다.³

반론도 있습니다. 회사 장비와 업무 앱에서의 행위는 원래 어느 정도 기록되며, AI 에이전트를 만들려면 실제 상호작용 데이터가 필요하다는 주장입니다.⁶ 이 반론은 일리가 있습니다. 다만 그 필요성이 곧 무제한 수집의 정당화는 아닙니다. 핵심은 "필요한 데이터"와 "가져갈 수 있는 데이터"를 구분하느냐입니다.

회사가 'AI 개선용 추적'을 들고 왔을 때 바로 물어볼 7가지

이런 도구를 볼 때는 찬반보다 구조를 봐야 합니다.

첫째, 무엇을 수집하나. 키 입력 자체인지, 입력 패턴인지, 화면 전체인지, 특정 앱 메타데이터인지가 다릅니다.

둘째, 연속 수집인가 샘플링인가. 항상 기록하는 것과 특정 업무 구간만 익명화해 수집하는 것은 전혀 다릅니다.

셋째, 원본 로그에 누가 접근하나. 모델 학습팀만 보는지, 관리자나 HR도 볼 수 있는지 확인해야 합니다.

넷째, 학습용과 성과평가용이 기술적으로 분리돼 있나. "정책상 안 쓴다"보다 시스템상 못 쓰게 돼 있는지가 중요합니다.

다섯째, 민감정보 제거 방식이 문서화돼 있나. 자격증명, 고객정보, 법무 문서, 의료·재무 정보가 섞이면 위험이 급증합니다.

여섯째, 보관 기간과 삭제 기준은 무엇인가. 학습 후 즉시 폐기인지, 장기 저장인지에 따라 리스크가 달라집니다.

일곱째, 거부권이나 대체 절차가 있나. 메타 사례에서는 업무용 노트북에서 옵트아웃이 없었다고 알려졌습니다.⁵⁶ 이 한 가지 사실만으로도 조직이 직원을 파트너로 보는지, 원재료로 보는지 감이 옵니다.

MCI가 예고하는 다음 2년의 기업 AI

앞으로 비슷한 시도는 더 늘어날 가능성이 큽니다. 다만 형태는 조금 달라질 것입니다.

첫 번째 흐름은 더 노골적인 행동 데이터 수집입니다. 특히 역할별 코파일럿, 데스크톱 에이전트, 브라우저 자동화 도구에서 강해질 겁니다.

두 번째는 역풍을 줄이려는 방식입니다. 전면 기록 대신 동의 기반 텔레메트리, 민감정보 마스킹, 작업 리플레이의 부분 수집, 또는 합성 데스크톱 데이터 생성으로 갈 수 있습니다. 유럽처럼 노동·프라이버시 규제가 강한 지역에서는 특히 그렇습니다.³⁷

세 번째는 노동 정책과 거버넌스 싸움입니다. "AI를 더 똑똑하게 만들기 위한 로그"와 "직원을 더 세밀하게 통제하기 위한 로그" 사이 경계는 생각보다 빨리 흐려질 수 있습니다.

그래서 지금 이 이슈를 봐야 하는 사람은 메타 직원만이 아닙니다. 직원이라면 동의, 분리, 삭제를 봐야 하고, 관리자라면 데이터 최소화와 신뢰 비용을 계산해야 합니다. 기술 업계를 지켜보는 사람이라면 더 큰 질문을 봐야 합니다. 다음 세대 AI가 배울 것은 단지 우리의 문서가 아니라, 우리의 일하는 습관 그 자체라는 점입니다.

참고

¹Now Meta will track what employees do on their computers to train its AI agents

²Meta to record employees' clicks, typing and screenshots to train AI

³Meta to track employee keystrokes, screen activity to train AI agents

⁴Meta to track workers' clicks and keystrokes to train AI

⁵Meta employees are up in arms over a mandatory program to train AI on their mouse movements and keystrokes

⁶Meta to start capturing employee mouse movements, keystrokes for AI training data

⁷Report: Meta will train AI agents by tracking employees' mouse, keyboard use