ChatGPT ‘Lockdown Mode’와 위험 라벨, 조직 보안이 달라진다
OpenAI가 ChatGPT에 Lockdown Mode(잠금 모드)와 Elevated Risk(고위험) 라벨을 추가해 조직 보안을 강화하겠다고 발표했습니다1. “업무 생산성 앱”이 되어버린 ChatGPT를 이제는 보안 정책 안으로 끌어들이는 장치가 생겼다는 점에서 의미가 큽니다.
이번 글에서는 이 업데이트가 왜 나왔는지(현실의 사고·통계), 무엇이 달라지는지(보안 운영 관점), 그리고 조직이 바로 적용할 수 있는 실전 체크리스트까지 정리해볼게요.
Lockdown Mode: “일단 멈춰”가 필요한 순간이 온다
조직 보안은 늘 딜레마입니다. AI를 막자니 직원들이 우회하고, 열어주자니 사고가 납니다. Lockdown Mode는 그 중간 지점에 있는 기능으로, 상황이 수상할 때 ChatGPT 사용 흐름을 ‘잠그는’ 비상 브레이크에 가깝습니다.
왜 이런 브레이크가 필요할까요? 실제로 고위직조차 예외가 아닙니다. 미국 CISA(사이버 보안 담당 기관) 수장이 민감 문서를 공개 ChatGPT에 올렸다가 보안 경보가 울린 사례가 보도됐죠2. 규정이 있어도 “잠깐만 쓰려고”가 사고로 이어지는 전형적인 장면입니다.
Lockdown Mode는 이런 순간에 “사용자를 믿자”가 아니라 “프로세스를 믿자”로 방향을 바꿉니다. 즉, 교육과 선의만으로 버티던 보안을 기능(통제) 기반으로 옮기는 신호탄입니다.
Elevated Risk 라벨: ‘이 대화, 냄새가 난다’를 눈에 보이게
보안 사고의 시작은 대개 조용합니다. 누군가 소스코드를 붙여 넣고, 계약서 문장을 넣고, 고객 메일을 넣습니다. 문제는 이게 대부분 비정형 텍스트라서 기존 DLP가 놓치기 쉽다는 점입니다. 실제로 2025년 2,240만 건 프롬프트 분석에서 “회사 민감 정보가 포함된 프롬프트”가 57.9만 건(2.6%)이었다는 결과도 있습니다3.
Elevated Risk 라벨의 핵심 가치는 여기 있습니다. “위험해 보이는데요?”를 보안팀만 아는 신호가 아니라, 사용자·관리자 모두가 이해할 수 있는 표식으로 끌어올리는 겁니다. 특히 ChatGPT가 기업 데이터 노출의 대부분을 차지했다는 분석(노출의 71.2%)을 보면3, 위험 라벨링은 ‘있으면 좋은 기능’이 아니라 운영 필수품에 가까워졌습니다.
조직이 진짜 조심해야 할 3가지: 프롬프트, 개인 계정, API 키
첫째, 프롬프트는 생각보다 자주 “파일 업로드”와 같습니다. ChatGPT는 기본적으로 회사 드라이브에 자동 접근하진 않지만, 직원이 붙여 넣는 순간 경계가 무너집니다. 그래서 ChatGPT 보안은 “무슨 권한을 줬나”보다 “무슨 내용을 넣었나”가 더 중요해지는 경우가 많습니다4.
둘째, 개인 계정이 가장 큰 구멍이 됩니다. 노출의 17%가 개인/무료 계정에서 발생했고, ‘민감’으로 분류된 사례의 87%가 ChatGPT Free에서 나왔다는 분석도 있습니다3. 즉, 회사가 비싼 보안 솔루션을 깔아도 직원이 개인 계정으로 들어가면 감사 로그도, 통제도, 경고도 증발합니다.
셋째, API 키는 “AI 시대의 루트 비밀번호”가 되고 있습니다. 공개 인터넷에서 ChatGPT API 키가 대량으로 노출된 정황(깃허브 5,000+ 저장소, 운영 웹사이트 약 3,000곳)이 보고됐는데5, 이런 키 유출은 단순 과금 폭탄을 넘어서 서비스 악용과 내부 워크플로 오염으로 번질 수 있습니다. Lockdown Mode/위험 라벨이 사용자 채팅을 조이는 장치라면, API 키 관리는 개발·운영 영역의 별도 전쟁입니다.
시사점: “차단” 대신 “통제된 사용”으로 넘어가는 타이밍
이번 업데이트를 기회로 삼으려면, 조직은 이렇게 움직이는 게 현실적입니다.
우선, ChatGPT를 아예 막는 전략은 오래 못 갑니다. 대신 “어떤 계정이 승인인지”를 분명히 하고, 승인 계정은 SSO로 묶어 가시성을 확보해야 합니다. 그리고 Elevated Risk 라벨이 뜨는 상황을 단순 경고로 끝내지 말고, 민감정보 탐지·차단·코칭(왜 막혔는지 안내)까지 이어지는 흐름을 만드세요.
마지막으로 개발팀에는 API 키를 절대 클라이언트에 두지 말라는 원칙과 함께, 저장소 스캔 및 키 회전(rotate)을 정례화해야 합니다. “AI는 편리한 도구”라는 인식은 이미 끝났고, 지금은 “AI는 새로운 데이터 이동 채널”로 보는 순간부터 사고가 줄어듭니다4.
정리하면, Lockdown Mode는 브레이크이고 Elevated Risk 라벨은 계기판입니다. 이제 남은 건, 운전(운영)입니다.
참고
1OpenAI adds Lockdown Mode and Elevated Risk labels to ChatGPT for enhanced organizational security
2CISA chief uploaded sensitive government files to public ChatGPT
3ChatGPT drives bulk of enterprise generative AI data risk
4ChatGPT Security for Enterprises: How to Secure ChatGPT at Scale
5When AI Secrets Go Public: The Rising Risk of Exposed ChatGPT API Keys