13장. 데이터, 광고, 프라이버시
맡기는 사람일수록, 맡기지 말아야 할 것도 안다
ChatGPT를 잘 쓰는 사람은 많이 맡기는 사람이 아니다. 정확히는, 어디까지 맡기고 어디서 멈출지 아는 사람이다.
이 차이는 생각보다 크다. 어떤 사람은 회의 정리, 초안 작성, 아이디어 정리, 자료 요약까지 시원하게 맡긴다. 그런데 고객 주민등록번호, 아직 공시 전인 실적, 계약서 원문, 비공개 소스 코드, 개인 병력 같은 정보는 절대 그대로 넣지 않는다. 반대로 어떤 사람은 사소한 문장 다듬기만 시키면서도, 정작 민감한 파일은 통째로 올린다.
앞 장에서 우리는 ChatGPT의 한계와 검증 문제를 봤다. 이번 장에서 다루는 것은 다른 종류의 현실이다. AI가 틀릴 수 있느냐가 아니라, 내가 넘긴 정보가 어디까지 퍼질 수 있느냐의 문제다. 잘 맡기는 사람은 결과물의 품질만 보지 않는다. 정보의 이동 경로도 함께 본다.
AI에게 일을 맡긴다는 것은, 단지 질문 하나를 던지는 일이 아니다. 어떤 경우에는 문장 몇 줄을 건네는 것이고, 어떤 경우에는 파일, 이미지, 음성, 접속 권한, 업무 맥락까지 함께 넘기는 일이다. 그러니 생산성을 올리고 싶다면, 먼저 이 사실부터 받아들여야 한다. 편리함은 늘 데이터와 함께 온다.
내가 입력한 정보는 어디로 가는가
많은 사용자가 "나는 그냥 채팅만 했는데요?"라고 생각한다. 하지만 서비스 입장에서 보면, 당신이 남기는 것은 채팅 몇 줄이 아니다. OpenAI의 개인정보 처리 문서에 따르면, 계정 정보, 프롬프트와 업로드한 파일 같은 사용자 콘텐츠, 접속 로그, 기기 정보, 대략적인 위치 정보 등이 함께 처리될 수 있다. 그 목적도 단순 답변 제공에 그치지 않고, 서비스 운영, 개선, 보안 유지, 법적 의무 이행까지 포함된다.1
이 말은 조금 딱딱하지만, 현실적으로는 아주 단순하다. 당신이 입력하는 순간 그 정보는 더 이상 '내 머릿속 생각'이 아니다. 서비스 안에서 저장, 처리, 보호, 때로는 검토의 대상이 된다.
여기서 중요한 것은 세 가지를 구분하는 일이다.
입력했다는 사실과
저장된다는 사실과
모델 개선이나 개인화에 활용될 수 있다는 사실은 서로 같은 말이 아니다.
사람들이 자주 헷갈리는 지점이 바로 여기다. "학습에 안 쓴다니까 안전하겠네"라고 생각하기 쉽지만, 학습에 쓰이지 않는다고 해서 저장이 전혀 없다는 뜻은 아니다. 반대로 저장을 줄였다고 해서 개인화 흔적이 완전히 사라지는 것도 아니다. 이걸 분리해서 이해해야 설정을 제대로 볼 수 있다.
저장, 학습, 기억은 전부 다른 문제다
ChatGPT를 사용할 때 가장 흔한 오해는 '대화 기록' 하나만 끄면 모든 것이 해결된다고 믿는 것이다. 실제로는 저장, 모델 개선, 메모리, 공유 링크, 연결 앱이 각각 따로 관리된다.
개인용 환경에서는 사용자가 설정을 바꾸지 않으면 새 대화나 업로드 내용이 모델 개선에 활용될 수 있다. 반면 OpenAI는 Business, Enterprise, API의 고객 데이터는 기본적으로 모델 학습에 사용하지 않는다고 안내한다.2 같은 ChatGPT라는 이름을 쓰더라도, 개인용과 업무용의 기본값은 다르다는 뜻이다.
또 하나 놓치기 쉬운 것이 메모리다. 메모리는 단순히 지난 대화를 보관하는 기능이 아니다. 이름, 선호, 말투, 자주 하는 작업처럼 당신에 대한 정보를 다음 세션에도 이어서 쓰기 위한 장치다. 그래서 어떤 정보를 정말 잊게 하고 싶다면, 메모리 항목만 지우거나 채팅만 지우는 것으로 끝나지 않을 수 있다. 실전 가이드들은 메모리와 그 메모리가 생긴 원래 대화를 함께 관리해야 완전히 정리된다고 설명한다.3
쉽게 비유하면 이렇다.
대화 기록은 책상 위에 쌓인 종이 더미이고, 메모리는 비서의 수첩이다. 종이를 치웠다고 해서 비서가 이미 적어 둔 내용까지 사라지는 건 아니다.
그래서 민감한 일을 맡길 때는 질문을 이렇게 바꿔야 한다.
"이 정보가 답변 생성에만 필요할까?"
아니면,
"나중에도 기억되면 곤란할까?"
두 번째 질문에 조금이라도 찜찜함이 있다면, 메모리와 개인화 기능까지 포함해 점검해야 한다.
프라이버시는 설정이 아니라 습관이다
설정은 중요하다. 하지만 설정만 믿으면 곤란하다. 왜냐하면 가장 많은 정보 노출은 대개 거창한 해킹보다 사용자의 평범한 습관에서 시작되기 때문이다.
예를 들어 이런 장면은 아주 흔하다.
회의록을 요약하려고 녹취를 통째로 올린다. 고객 사례를 분석해 달라며 이름, 연락처, 매출, 분쟁 이력을 그대로 붙여 넣는다. 계약서 문구를 손봐 달라며 상대 회사명과 금액, 아직 서명되지 않은 조건을 원문 그대로 넣는다. 코드를 고쳐 달라며 내부 키가 들어 있는 설정 파일까지 함께 올린다.
이건 AI를 잘 활용하는 사람의 모습이 아니라, AI에게 넘기면 안 되는 것까지 넘기는 사람의 모습이다.
정말 실무적으로 중요한 원칙은 거창하지 않다. 원문을 넣기 전에 한 번 가공하라. 이름은 역할명으로 바꾸고, 주민번호와 계좌번호는 지우고, 금액은 범위로 바꾸고, 비공개 제품명은 프로젝트 A 같은 가명으로 바꾸면 된다. 이 한 단계만 거쳐도 위험은 크게 줄어든다.
잘 맡기는 사람은 AI에게 일을 던지기 전에 데이터를 먼저 다듬는다. 다시 말해, 일을 맡기기 전에 정보를 얇게 만든다.
광고가 들어오면 무엇이 달라지는가
광고가 들어오는 ChatGPT 환경은 사용자에게 작은 변화처럼 보일 수 있다. 화면 아래에 박스 하나 더 생기는 정도로 느껴질 수도 있다. 하지만 사용 습관의 관점에서 보면 변화는 꽤 크다.
OpenAI는 미국에서 ChatGPT 광고를 시험하면서, 광고는 명확히 표시하고, 답변 자체와는 분리하며, 프라이버시 보호와 사용자 제어를 함께 제공하겠다고 밝혔다.4 또한 현재 테스트는 Free와 Go 요금제 일부 사용자에게 적용되고, Plus, Pro, Business, Enterprise, Education 계정에는 광고가 표시되지 않는다고 안내한다.5
이 원칙은 중요하다. 적어도 '광고주가 답변 내용을 바꾼다'는 식의 구조와는 선을 긋겠다는 의미이기 때문이다.
그렇다고 안심하고 아무 이야기나 해도 된다는 뜻은 아니다. 광고가 있는 환경에서는 사용자가 자연스럽게 이런 질문을 하게 된다.
"내가 지금 말한 맥락이 어디까지 읽히는가?"
"이 대화가 단지 답변 생성에만 쓰이는가, 아니면 추천과 개인화에도 영향을 주는가?"
"나는 이 설정을 끌 수 있는가?"
이 질문을 하게 되는 순간, 사용자의 태도도 바뀌어야 한다. 광고가 붙은 환경에서 가장 중요한 변화는 기술이 아니라 심리다. 사람은 원래 검색창보다 대화창에 더 솔직해진다. 검색창에는 "감기약 추천"이라고 치지만, 대화창에는 "어제부터 열이 나고 아이도 비슷한 증상이 있는데 병원 가야 할까요"라고 쓴다. 바로 그 과도한 솔직함이 새로운 위험이 된다.
그래서 광고 환경에서의 기본 원칙은 단순하다. 민감한 주제일수록 더 짧고, 더 추상적으로 말하라. 개인사, 건강, 재정, 분쟁, 회사 내부 사정처럼 노출되면 곤란한 내용은 특히 그렇다. 답을 얻는 데 꼭 필요한 맥락만 주고, 감정의 디테일까지 털어놓지는 마라.
개인 사용자를 위한 현실 체크리스트
개인 사용자가 당장 실천할 수 있는 것은 생각보다 많다. 어렵지도 않다. 귀찮을 뿐이다. 그리고 대부분의 사고는 바로 그 귀찮음에서 시작된다.
먼저 계정 보호부터 해야 한다. 2단계 인증은 선택이 아니라 기본이다. 누군가 내 계정에 들어가면, 문제는 단순 로그인 침해가 아니라 과거 대화 전체가 한꺼번에 열리는 일이 된다.6
그다음에는 데이터 관련 설정을 본다. 모델 개선에 내 대화를 쓰지 않게 할지, 메모리를 켤지 끌지, 임시 대화를 쓸지, 공유 링크가 살아 있는지, 연결된 외부 앱이 남아 있는지 확인해야 한다.36
개인 사용자의 최소 체크리스트는 이 정도면 된다.
2단계 인증을 켠다.
모델 개선 관련 설정을 점검한다.
민감한 대화는 임시 대화나 최소 정보 입력 방식으로 처리한다.
메모리와 채팅 기록을 별개로 관리한다.
공유 링크를 주기적으로 정리한다.
연결 앱과 확장 프로그램을 정기적으로 점검한다.36
여기서 특히 조심할 것이 공유 링크다. "링크 아는 사람만 보겠지"라고 생각하기 쉽지만, 한 번 밖으로 나간 링크는 생각보다 멀리 간다. 발표 자료, 커뮤니티 글, 협업 문서, 메신저 대화방을 타고 돌아다니다가 원치 않는 사람에게 닿는 일은 충분히 벌어진다. 그러니 민감한 대화는 애초에 공유하지 않는 편이 낫다.6
또 하나. 광고 관련 제어가 제공되는 지역이나 계정이라면, 광고 개인화 설정도 확인하라. 이런 설정은 보통 기본 화면보다 더 안쪽에 숨어 있다. 안 보인다고 없는 게 아니라, 아직 열어보지 않았을 가능성이 더 크다.
팀에서 쓰기 시작할 때 필요한 선
개인이야 실수하면 본인이 곤란한 수준에서 끝날 수 있다. 하지만 팀은 다르다. 한 사람의 무심한 붙여넣기가 고객 정보, 회사 기밀, 계약상 비밀 유지 의무까지 건드릴 수 있다.
그래서 팀 단위에서는 "써도 되나?"보다 먼저 "어떤 정보는 절대 넣지 않나?"를 합의해야 한다. 이 기준이 없으면, 사람들은 각자 상식대로 사용한다. 그리고 회사에서 가장 위험한 것은 대개 악의가 아니라 상식의 제각각이다.
팀에서 가장 먼저 정해야 할 것은 데이터 등급이다. 예를 들면 이렇게 나누면 된다.
공개 가능 정보: 보도자료, 이미 공개된 제품 설명, 외부 공개 예정 초안
내부 사용 정보: 사내 문서 초안, 일반 회의 요약, 익명화된 운영 메모
입력 금지 정보: 고객 개인정보, 인증 정보, 미공개 재무 수치, 계약 원문, 소스 코드 비밀값, 법률 분쟁 자료
이 세 줄만 있어도 팀의 사용 수준은 확 달라진다. 사람은 금지 규정이 길어질수록 안 읽지만, 경계선이 선명할수록 잘 지킨다.
그리고 팀에서는 개인 계정과 업무 계정을 섞지 않는 것이 중요하다. 오늘은 잠깐 급해서 개인 계정으로 붙여 넣고, 내일은 팀 워크스페이스로 돌아오는 식의 사용이 반복되면 통제는 사실상 무너진다. 편한 길이 항상 공식 경로보다 쉬우면, 사람은 결국 편한 길로 간다.
기업 사용자를 위한 보안 체크포인트
기업에서 ChatGPT를 도입할 때 가장 흔한 착각은 라이선스를 사면 통제가 생긴다고 믿는 것이다. 물론 Business나 Enterprise는 개인용보다 훨씬 낫다. OpenAI는 Business, Enterprise, API 고객 데이터는 기본적으로 모델 학습에 사용하지 않는다고 밝히고 있고, 별도의 엔터프라이즈 프라이버시 약속과 관리 기능을 제공한다.2
하지만 그건 출발선이지 결승선이 아니다. 엔터프라이즈 기능이 있어도 직원이 민감한 내용을 과하게 붙여 넣으면 위험은 여전히 발생한다. 안전한 차선이 생겼다고 해서 과속이 안전해지는 건 아닌 것과 같다.
기업이라면 적어도 다음 항목은 점검해야 한다.
SSO와 MFA를 강제할 것
관리자 권한을 최소화하고 역할 기반 권한을 나눌 것
허용된 워크스페이스 외 개인 계정 사용을 어떻게 줄일지 정할 것
보존 기간과 삭제 기준을 문서로 정할 것
공유 링크, 커넥터, 외부 앱 연결 승인 절차를 만들 것
로그와 감사를 누가 언제 볼지 정할 것
금지 데이터 유형과 예시 프롬프트를 함께 교육할 것
사고 발생 시 보고, 차단, 후속 조치 절차를 둘 것
특히 커넥터와 외부 앱 연결은 아주 유용하면서도 아주 위험하다. 문서, 메일, 캘린더, 저장소를 연결하면 AI는 갑자기 똑똑해진다. 동시에 접근 범위가 넓어진다. 그래서 원칙은 간단하다. 필요한 사람에게만, 필요한 범위만, 필요한 기간만 열어라. 전사 기본 허용은 편하지만, 나중에 문제를 만들기 가장 쉬운 방식이다.6
또 기업은 '허용된 사용'만 설계하면 안 된다. 우회 사용도 예상해야 한다. 공식 워크스페이스가 불편하면, 직원은 개인 브라우저와 개인 계정으로 돌아간다. 그러니 보안 정책은 강해야 하지만, 동시에 현업이 실제로 쓸 수 있을 만큼 편해야 한다. 너무 막으면 그림자 사용이 늘고, 너무 풀면 사고가 는다. 운영의 핵심은 그 중간을 찾는 것이다.
무엇을 맡기지 말아야 하는가
이 장의 핵심을 한 문장으로 줄이면 이렇다.
유출되었을 때 설명하기 어려운 정보는, 원문 그대로 맡기지 마라.
조금 더 구체적으로 말하면 다음과 같다.
첫째, 재식별 가능한 개인정보는 넣지 마라. 이름 하나쯤이야 괜찮겠지 싶지만, 직함, 회사명, 지역, 사건 설명이 붙으면 금세 특정인이 된다.
둘째, 인증 정보와 비밀값은 절대 넣지 마라. 비밀번호, API 키, 토큰, 내부 접속 주소 같은 것은 "고쳐 달라"는 한마디와 함께 새어 나가기 가장 쉽다.
셋째, 아직 공개되지 않은 회사 정보는 원문 투입을 피하라. 실적, 인수 논의, 가격 정책, 신제품 일정, 계약 협상안은 요약과 가명화가 먼저다.
넷째, 건강, 법률, 인사 평가처럼 민감도가 높은 주제는 익명화 없이는 다루지 마라. 이 영역은 단순한 민망함이 아니라 규제와 책임 문제로 이어질 수 있다.
다섯째, 고객이 맡긴 정보는 더 엄격하게 다뤄라. 내 정보보다 남의 정보가 더 무겁다. 특히 회사는 그렇다.
결국 질문은 이것이다. "이걸 넣어서 시간을 아끼는 이득"과 "혹시 잘못됐을 때의 비용" 중 어느 쪽이 더 큰가. AI 활용에서 성숙한 사용자는 늘 이 계산을 한다.
프라이버시는 생산성의 적이 아니다
어떤 사람은 보안을 말하면 곧바로 한숨을 쉰다. 귀찮고 느려지기 때문이다. 하지만 장기적으로 보면 정반대다. 프라이버시 기준이 없는 조직은 결국 더 느려진다. 사고가 나면 모든 사용이 얼어붙고, 법무 검토가 붙고, 보고 체계가 늘고, 현업은 다시 수작업으로 돌아간다.
반대로 경계선이 분명한 조직은 빨라진다. 직원이 매번 눈치 보지 않고, "이건 넣어도 되고 저건 안 된다"를 알고 움직일 수 있기 때문이다. 안전한 범위가 넓을수록, 실제 위임 가능한 일도 많아진다.
그래서 프라이버시는 브레이크가 아니라 핸들에 가깝다. 속도를 줄이기 위해서가 아니라, 원하는 방향으로 가기 위해 필요하다.
이 장의 마지막 문장은 분명해야 한다.
ChatGPT를 잘 맡겨 쓰는 사람은, 많이 넣는 사람이 아니다. 덜 넣어도 충분히 잘 시키는 사람이다.
참고
3How to configure privacy and security in ChatGPT - Kaspersky official blog
4Testing ads in ChatGPT - OpenAI
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.