AI 도구의 경쟁력은 이제 “얼마나 똑똑한가”만으로 결정되지 않습니다. 앞으로 더 중요한 질문은 이것입니다. AI가 내 기기와 데이터에 어디까지 접근할 수 있는가, 그리고 그 권한을 어떻게 통제할 수 있는가.
그렉 브록먼은 라일리 브라운의 Codex 시연 게시물을 인용해 공유했습니다.1 브라운은 Codex가 3년치 개인 문자 메시지를 분석했고, 분석 결과에 실제 메시지 인용까지 포함했다고 밝혔습니다.2 이 데모가 흥미로운 이유는 단순히 Codex가 더 많은 일을 했기 때문이 아닙니다. AI 에이전트가 개인 데이터와 만날 때 어떤 가능성과 위험이 생기는지 보여줬기 때문입니다.
핵심은 Codex가 아니라 ‘접근 권한’이다
Codex는 개발자를 돕는 코딩 에이전트로 알려져 있습니다. 일반적인 챗봇처럼 답변만 생성하는 것이 아니라, 사용자의 목표를 바탕으로 파일을 읽고 명령을 실행하며 작업을 이어갈 수 있는 도구에 가깝습니다.
이번 시연에서 중요한 지점은 “코딩을 잘한다”가 아닙니다. Mac 사용자가 접근 권한을 부여하면 Codex가 로컬 데이터에 접근해 개인 메시지까지 분석할 수 있다는 점입니다.2
즉 AI는 더 이상 앱 안에서만 답을 만드는 도구에 머물지 않습니다. 사용자의 기기 안에 있는 자료를 읽고, 연결하고, 요약하는 작업자로 확장되고 있습니다. 이 변화는 생산성을 크게 높일 수 있지만, 동시에 사용자가 권한을 더 신중하게 관리해야 한다는 뜻이기도 합니다.
개인 메시지 분석이 보여주는 가능성과 경계
3년치 메시지를 분석할 수 있다면 개인 기록을 돌아보는 방식은 달라질 수 있습니다. 반복되는 대화 주제, 관계의 변화, 중요한 사건의 흐름을 빠르게 정리할 수 있기 때문입니다. 긴 시간 동안 쌓인 대화를 사람이 직접 훑지 않아도 AI가 구조화해 줄 수 있습니다.
하지만 같은 이유로 위험도 분명합니다. 이번 시연에는 분석 결과에 직접 인용문이 포함됐습니다.2 이는 AI가 단순히 메시지 개수나 메타데이터만 본 것이 아니라, 실제 문장 내용을 처리했다는 의미입니다.
따라서 이런 기능을 볼 때는 “가능하다”보다 “어떻게 다뤄지는가”를 먼저 봐야 합니다.
확인해야 할 기준은 명확합니다.
어떤 데이터에 접근하는가
어느 기간과 범위까지 읽는가
분석 결과가 어디에 저장되는가
원문 인용이 결과에 포함되는가
타인의 메시지와 개인정보는 어떻게 보호되는가
개인 메시지는 나 혼자만의 데이터가 아닐 수 있습니다. 대화 상대의 정보도 함께 들어 있기 때문에, 분석과 공유 모두에서 더 조심해야 합니다.
써본다면 ‘최소 권한’부터 시작해야 한다
이런 도구를 사용할 때 기본 원칙은 최소 권한입니다. 처음부터 전체 메시지나 모든 로컬 데이터에 접근 권한을 주기보다, 필요한 범위만 허용하는 편이 안전합니다.
가능하다면 테스트용 데이터나 일부 기간의 자료로 먼저 확인하는 것이 좋습니다. 민감한 메시지, 업무 자료, 타인의 개인정보가 섞인 데이터는 분리해 두는 편이 낫습니다. 분석 결과를 외부에 공유할 때는 원문 인용이나 식별 가능한 정보가 포함됐는지도 반드시 확인해야 합니다.
이번 Codex 개인 메시지 데모가 보여준 결론은 분명합니다. 앞으로 AI 활용 능력은 좋은 프롬프트를 쓰는 데서 끝나지 않습니다. AI가 어떤 데이터에 접근하도록 허용할지 판단하고, 그 권한을 관리하는 능력이 함께 필요해집니다.
AI가 더 유용해질수록 권한 관리도 더 중요해집니다. 편리함을 얻기 위해 어디까지 열어줄 것인지가 앞으로의 핵심 사용 습관이 될 것입니다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.