AI에게 묻고 싶은 질문일수록, 남에게 보이기 싫은 경우가 많습니다. 건강 증상, 이별 메시지, 법적 분쟁, 회사 문서, 돈 문제처럼요. 그런데 "시크릿", "비공개", "Incognito"라는 이름이 붙었다고 해서 정말 안심해도 될까요?
이번 논의의 출발점은 WhatsApp이 Meta AI와의 대화를 더 비공개로 처리하는 Incognito Chat을 내놓았다는 소식입니다.1 핵심은 단순히 "AI 채팅 기록이 사라진다"가 아닙니다. 이제 사용자는 어떤 질문은 WhatsApp 안에서 해도 되는지, 어떤 질문은 더 조심해야 하는지, 어떤 질문은 애초에 챗봇에 입력하지 말아야 하는지 구분해야 합니다.
먼저 물어야 할 질문: 누구로부터 비공개인가
WhatsApp Incognito Chat은 Meta AI와의 대화를 임시 세션으로 처리하고, 기본적으로 저장하지 않으며, 사용자가 세션을 닫으면 대화가 사라지는 방식으로 설명됩니다.2 Meta는 이 처리가 Trusted Execution Environment, 즉 격리된 보안 실행 환경에서 이뤄진다고 밝혔습니다.3
이것이 의미하는 바는 분명합니다. 일반적인 AI 챗봇 사용에서 가장 찝찝한 부분, 즉 내 질문이 서버에 남거나 향후 모델 학습·개인화에 쓰일 수 있다는 걱정을 줄이려는 설계입니다.
하지만 "비공개"의 상대가 누구인지 나눠 봐야 합니다.
Meta나 WhatsApp 내부 시스템이 대화 내용을 읽는 것을 막는가? 이것이 이 기능의 핵심 주장입니다. AI 학습용 데이터로 남는가? 적어도 Incognito Chat에서는 남기지 않는 방향으로 설계됐다고 설명됩니다. 내 휴대폰을 보는 가족, 동료, 수사기관, 회사 보안팀, 화면 캡처, 알림 미리보기, 백업까지 막는가? 여기서부터는 이야기가 달라집니다.
Incognito는 마법 망토가 아닙니다. 서버 측 기록을 줄이는 장치에 가깝습니다. 사용자의 기기, 주변 사람, 복사해 붙여넣은 결과물, 스크린샷, 업무용 단말 정책까지 지워주지는 않습니다.
민감한 AI 질문을 나누는 세 가지 바구니
실무적으로는 질문을 세 부류로 나누는 편이 안전합니다.
첫째, Incognito Chat으로도 비교적 괜찮은 질문입니다. 예를 들어 "두통이 있을 때 병원에 가야 할 신호는?", "이별 문자를 덜 공격적으로 바꿔줘", "예산 계획을 세우는 일반적인 방법은?"처럼 개인 식별 정보 없이도 답을 얻을 수 있는 질문입니다. 이 경우 핵심은 원문을 그대로 넣지 않고, 상황을 요약해 묻는 것입니다.
둘째, 가능은 하지만 추가 주의가 필요한 질문입니다. 의료 검사 결과, 계약서 초안, 직장 내 갈등, 투자 계획, 고객 관련 메모가 여기에 들어갑니다. 이때는 이름, 주민번호, 회사명, 고객명, 계좌번호, 내부 코드명을 제거해야 합니다. "우리 회사 A 프로젝트 문서 전체를 요약해줘"가 아니라 "B2B SaaS 출시 일정표를 검토할 때 빠뜨리기 쉬운 리스크를 알려줘"처럼 추상화하는 편이 낫습니다.
셋째, 어떤 챗봇에도 넣지 말아야 할 질문입니다. 비밀번호, 인증 코드, 미공개 인수합병 자료, 고객 개인정보 원본, 소송 전략의 핵심 증거, 자해나 타해를 실행하기 위한 구체적 방법 등이 그렇습니다. WhatsApp은 유해하거나 불법적인 요청에 대해 거부하거나 상호작용을 중단하는 안전장치를 둔다고 설명했지만,4 안전장치가 있다는 사실이 입력해도 된다는 뜻은 아닙니다.
Incognito가 해결하지 못하는 것들
이 기능의 가장 큰 장점은 동시에 가장 큰 트레이드오프이기도 합니다. 대화가 저장되지 않으면 프라이버시는 강해집니다. 반대로 문제가 생겼을 때 무슨 답변이 제공됐는지 확인하기 어려워집니다.
BBC 보도에 따르면 보안 전문가들은 기록이 남지 않는 구조가 AI 오작동이나 위해성 논란에서 책임 추적을 어렵게 만들 수 있다고 지적했습니다.5 특히 건강, 자살, 법률, 금융처럼 잘못된 조언의 비용이 큰 영역에서는 "기록 없음"이 사용자 보호와 충돌할 수 있습니다.
따라서 사용 습관이 중요합니다.
민감한 내용을 그대로 붙여넣지 말고 요약하세요. 알림 미리보기를 꺼두세요. 공유 기기에서는 쓰지 마세요. AI 답변을 다른 사람에게 전달할 때는 그 출력물이 다시 노출될 수 있음을 기억하세요. 그리고 중요한 판단은 AI 답변이 아니라 의사, 변호사, 회계사, 회사 보안 담당자 같은 책임 있는 채널로 넘겨야 합니다.
앞으로 봐야 할 것은 이름이 아니라 설계다
Private AI mode는 앞으로 웹브라우저의 시크릿 모드만큼 흔해질 가능성이 큽니다. Google Gemini와 ChatGPT도 기록 비활성화나 학습 제외 옵션을 제공해 왔고, WhatsApp은 이를 메시징 앱 안으로 끌어온 셈입니다.2
하지만 판단 기준은 이름이 아닙니다. 봐야 할 것은 네 가지입니다. 대화가 어디에서 처리되는가. 얼마나 오래 남는가. 학습과 개인화에 쓰이는가. 사용자가 그 경계를 쉽게 이해하고 통제할 수 있는가.
WhatsApp Incognito Chat은 민감한 AI 대화의 기준선을 한 단계 끌어올린 기능입니다. 다만 "완전한 안전"이 아니라 "더 나은 선택지"로 봐야 합니다. 건강, 법률, 업무 비밀, 가족 문제처럼 AI에게 묻고 싶은데 망설여졌던 사람일수록 이 기능을 써볼 수 있습니다. 대신 매번 같은 질문을 먼저 던져야 합니다. 이 대화가 비공개여야 하는 이유는 무엇이고, 누구에게서 숨기려는 것인가?
참고
1WhatsApp Adds Meta AI Chats That Are Built to Be Fully Private
2Meta launches WhatsApp 'incognito' mode to address privacy concerns for AI chats
3Building Private Processing for AI tools on WhatsApp - Engineering at Meta
5WhatsApp launches 'incognito' AI chat with private disappearing messages
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.