오픈AI CEO 샘 올트먼이 캐나다 브리티시컬럼비아주 텀블러 리지 커뮤니티에 공개 사과했다. 이유는 단순하다. 회사가 2025년 6월 총격범 계정을 폭력 관련 위험으로 내부 검토하고도, 결국 캐나다 경찰에 알리지 않았기 때문이다.12 이후 2026년 2월 이 사건은 8명이 숨지고 다수가 다친 참사로 이어졌다.3
이 사안이 지금 중요한 이유는 사과문 자체보다 그 뒤의 질문에 있다. 챗봇 회사가 위협 신호를 봤을 때, 대중은 "그냥 경찰에 신고하면 되지 않나"라고 생각한다. 하지만 실제 운영은 훨씬 더 복잡하다. 그래서 이번 사건은 한 기업의 실수이면서 동시에, AI 시대의 신고 의무가 어디까지여야 하는지 시험하는 사례가 됐다.
"그냥 신고했어야지"가 현실에선 어려운 이유
확인된 사실부터 보자. 오픈AI는 총격범 계정을 "violent activities" 관련 남용 탐지로 포착했고, 법집행기관 통보 여부도 검토했다. 하지만 당시에는 "신뢰할 수 있고 임박한 심각한 위해" 기준에 못 미친다고 판단해 계정만 차단했다.24
여기서 핵심은 기준선이다. 온라인 대화에는 허세, 판타지, 롤플레잉, 분노 표출이 섞인다. 그중 일부는 끔찍하지만 실제 범행 계획은 아닐 수 있다. 반대로 진짜 위험은 겉보기에 모호할 수 있다. AI 기업이 모든 폭력성 언급을 경찰에 넘기면 오탐이 폭증하고, 프라이버시 침해와 과잉 신고 문제가 생긴다.
게다가 국경 문제도 있다. 미국 기업이 캐나다 이용자 계정을 보고 어느 기관에, 어떤 근거로, 얼마나 빨리 넘길지조차 표준화돼 있지 않다. 이번 일 뒤 오픈AI가 캐나다 경찰과 직접 연락 창구를 만들고, 신고 기준을 더 유연하게 바꾸겠다고 한 이유도 여기에 있다.1
즉 대중의 분노는 정당하지만, 해결책은 감정적으로 단순하지 않다. "무조건 신고"도 실패하고, "임박성 입증 전까지 보류"도 실패할 수 있다.
AI 기업에 필요한 것은 단일 판단이 아니라 '에스컬레이션 사다리'
이번 사건에서 더 중요한 건 누가 옳았냐보다, 어떤 운영 체계가 있었어야 했느냐다. 앞으로 AI 플랫폼을 볼 때는 최소한 다음 단계가 있는지 확인할 필요가 있다.
첫째, 자동 탐지와 별도로 사람 검토가 붙어야 한다. 폭력 키워드 탐지만으로는 부족하고, 맥락·지속성·구체성을 보는 다중 신호가 필요하다.
둘째, 단순 정책 위반과 긴급 위험을 분리해야 한다. 계정 차단은 플랫폼 보호 조치일 뿐, 공공 안전 대응은 아니다. 이번 사건은 바로 그 차이를 드러냈다.
셋째, 신고 기준은 "임박성" 하나에만 매여 있으면 안 된다. 장기 계획, 무기 언급, 특정 장소·대상 반복, 회피 시도 같은 패턴을 점수화해 인간 검토 문턱을 낮추는 방식이 더 현실적이다. 다만 이 역시 오탐을 늘릴 수 있다는 반론이 있다. 그래서 기준 완화만큼 중요한 것이 사후 감사와 기록 보존이다.
넷째, 법집행기관 인계 규칙이 명확해야 한다. 어느 나라 기관에, 어떤 데이터 범위까지, 어떤 긴급도에서 공유하는지가 문서화돼야 한다. 그래야 나중에 "왜 안 알렸나"뿐 아니라 "왜 이만큼만 알렸나"도 검증할 수 있다.
회사가 맡을까, 규제가 맡을까, 제3의 안전 핫라인이 맡을까
현재 가능한 모델은 대략 세 가지다.
기업 자율 모델은 빠르다. 제품 내부 신호를 가장 잘 아는 곳도 회사다. 하지만 이해상충이 크다. 과잉 신고는 이용자 반발을 부르고, 과소 신고는 이번 같은 참사 뒤에 드러난다.
규제 중심 모델은 기준을 통일할 수 있다. 문제는 기술 변화 속도를 법이 못 따라갈 수 있다는 점이다. "신고 의무"만 넣고 실무 절차가 없으면 현장은 다시 모호해진다.
제3의 독립 안전 핫라인 모델은 생각보다 현실적이다. 플랫폼이 고위험 사례를 독립 기구에 넘기고, 그 기구가 법률·정신건강·수사 기준으로 재판단하는 방식이다. 기업의 이해상충을 줄일 수 있지만, 비용과 속도 문제가 있다.
그래서 실제 해법은 하나로 수렴되기보다 혼합형일 가능성이 크다. 기업이 1차 탐지와 긴급 대응을 맡고, 정부가 최소 기준과 감사 의무를 만들며, 독립 기관이 고위험 분쟁 사례를 재검토하는 구조다.
다음 사과가 PR인지 개혁인지 구분하는 법
앞으로 독자, 기자, 정책 담당자가 봐야 할 것은 사과문 톤이 아니다.
정말 중요한 신호는 네 가지다. 첫째, 위협 신고 정책이 공개됐는가. 둘째, 몇 건이 인간 검토로 올라가고 몇 건이 실제로 당국에 전달되는지 투명성 보고서가 나오는가. 셋째, 국경 간 사건에 대한 연락 체계와 평균 대응 시간이 공개되는가. 넷째, 외부 감사나 사후 검토가 붙는가.
이번 사건은 오픈AI 한 회사의 실패로 끝나지 않는다. 생성형 AI가 사람들의 계획, 감정, 폭력적 상상을 점점 더 가까이 듣게 되는 만큼, 문제는 "AI가 위험을 알 수 있느냐"가 아니라 "알았을 때 누가 어떤 절차로 움직이느냐"로 옮겨가고 있다.
지금 이 문제를 가장 신경 써야 하는 사람은 정책 입안자만이 아니다. 학교, 학부모, 플랫폼 운영자, 그리고 AI를 업무에 도입하는 기업도 마찬가지다. 다음 번 사과를 평가할 때는 책임 인정 여부보다, 신고 기준·인계 절차·감사 체계가 실제로 바뀌었는지를 먼저 봐야 한다.
참고
1OpenAI CEO apologizes to Tumbler Ridge community
2Altman apologizes after OpenAI failed to alert police before Tumbler Ridge killings
3OpenAI boss 'deeply sorry' for not telling police of mass shooting suspect's account
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.