ChatGPT가 위기 신호를 감지했을 때 누군가에게 알릴 수 있다면, 당신은 누구를 지정할 것인가. 더 어려운 질문은 그다음이다. 그 사람이 알림을 받으면 무엇을 해야 하고, 무엇은 하지 말아야 할까.
OpenAI는 ChatGPT에서 성인 사용자가 'Trusted Contact'를 지정해, 추가 지원이 필요해 보이는 상황에서 알림을 보낼 수 있는 기능을 소개했다.1 이 기능이 중요한 이유는 단순하다. 많은 사람이 이미 AI를 일기장, 상담 상대, 감정 배출구처럼 쓰고 있고, 일부 사례에서는 장시간의 대화가 망상·자해 위험·사회적 고립과 얽혔다는 보고와 소송이 이어지고 있기 때문이다.2
연락처를 추가하는 것과 위기 계획을 세우는 것은 다르다
Trusted Contact는 구조 버튼이 아니다. 더 정확히 말하면 "AI가 위험 신호를 보았을 때 사람을 끼워 넣는 장치"에 가깝다.
확인된 사실은 제한적이다. OpenAI는 성인 사용자가 신뢰할 사람을 지정할 수 있다고 밝혔지만, 어떤 문장이나 행동 패턴이 실제 알림을 유발하는지, 연락처가 어떤 정보를 받는지는 아직 충분히 공개되지 않았다.3 즉, 이 기능을 켜는 순간 모든 문제가 해결된다고 기대해서는 안 된다.
실무적으로는 이렇게 봐야 한다. Trusted Contact는 "내가 힘들 때 연락해도 되는 사람"을 고르는 기능이 아니라, "내가 판단력이 흐려질 수 있는 상황에서 개입해도 되는 사람"을 정하는 절차다. 이 차이가 크다.
평소 위로를 잘하는 친구가 위기 대응에는 맞지 않을 수 있다. 반대로 다정한 말은 서툴러도 침착하게 병원, 가족, 지역 응급 지원을 연결할 수 있는 사람이 더 적합할 수 있다.
누구에게 알림을 보낼 것인가: 좋은 사람보다 맞는 사람
Trusted Contact 후보를 고를 때 기준은 호감도가 아니라 대응 능력이다.
다음 질문에 "그렇다"가 많을수록 적합하다.
알림을 받았을 때 당황해서 과잉 대응하지 않을 사람인가
내 사생활을 다른 사람에게 쉽게 공유하지 않을 사람인가
밤이나 주말에도 최소한 확인 가능한 사람인가
나를 설득하려 하기보다 먼저 안전 여부를 확인할 사람인가
필요하면 가족, 의료진, 지역 긴급 서비스로 연결할 수 있는 사람인가
나와 갈등 관계에 있거나 통제하려는 사람이 아닌가
특히 피해야 할 유형도 있다. 죄책감을 주는 사람, 비밀을 지키지 못하는 사람, 정신건강 문제를 도덕성 문제로 보는 사람, 알림을 "감시 권한"으로 받아들일 사람이다.
이 기능의 핵심 리스크는 개인정보다. 많은 사용자가 AI에 민감한 이야기를 털어놓는 이유는 바로 사람에게 말하지 않아도 된다는 감각 때문이다. 그런데 위기 감지와 외부 알림은 그 사적 공간에 사람을 다시 들여오는 설계다. 안전을 높이는 대신 프라이버시 기대를 낮춘다. 이 트레이드오프를 이해하지 못한 채 켜면, 도움보다 관계 손상이 먼저 올 수 있다.
켜기 전에 해야 할 대화: "알림이 오면 이렇게 해줘"
Trusted Contact를 지정하기 전에는 짧게라도 합의가 필요하다. 기능 설정 화면보다 이 대화가 더 중요하다.
예를 들면 이렇게 말할 수 있다.
"내가 ChatGPT를 감정적으로 많이 쓰는 편이라, 혹시 위기 신호가 감지되면 너에게 알림이 갈 수 있게 하려고 해. 알림이 온다고 해서 바로 신고하거나 가족에게 말하라는 뜻은 아니야. 먼저 나에게 전화나 메시지를 해줘. 연락이 안 되고 위험해 보이면 그때 우리가 정한 다음 단계로 가줘."
여기서 정해야 할 것은 네 가지다.
첫째, 연락 방식. 전화, 문자, 메신저 중 무엇을 먼저 할지 정한다.
둘째, 금지 행동. 예를 들어 "내 동의 없이 직장에 연락하지 않기", "단체 채팅방에 공유하지 않기", "나를 비난하거나 추궁하지 않기" 같은 선을 명확히 둔다.
셋째, escalation 기준. "자해 의도가 구체적일 때", "연락이 몇 시간 이상 안 될 때", "약물·무기·장소가 언급될 때"처럼 다음 단계로 넘어갈 조건을 정한다.
넷째, 백업 자원. 주치의, 상담센터, 가족 중 한 명, 지역 응급번호 등 실제로 움직일 수 있는 연락망을 적어둔다. Trusted Contact 한 명에게 모든 책임을 떠넘기면 그 사람도 버티기 어렵다.
도움이 되는 순간과 오작동할 수 있는 순간
이 기능은 특히 자신의 취약성을 알고 있는 사용자에게 도움이 될 수 있다. 예컨대 우울 삽화, 조증, 망상적 사고, 자해 충동이 반복된 경험이 있고, AI와의 긴 대화가 상태를 악화시킬 수 있다고 느낀다면 사전 안전장치가 될 수 있다.
하지만 한계도 뚜렷하다. AI는 농담, 글쓰기 연습, 소설 대사, 분노 섞인 하소연을 실제 위기로 오해할 수 있다. 반대로 정말 위험한 상황을 놓칠 수도 있다. OECD의 AI 사고 모니터는 이 기능을 이미 발생한 사고가 아니라, 오탐·개인정보 공유·안전 실패 가능성이 있는 "AI hazard"로 분류했다.4
따라서 Trusted Contact는 전문 상담, 의료 지원, 지역 긴급 대응을 대체하지 않는다. 더 나은 비유는 화재경보기에 가깝다. 경보기는 불을 끄지 않는다. 다만 누군가가 확인하고 행동하게 만든다. 문제는 그 "누군가"가 준비되어 있어야 한다는 점이다.
지금 이 기능을 신경 써야 하는 사람은 ChatGPT를 감정적으로 깊게 쓰는 사용자, 정신건강 이력이 있는 사용자, 그리고 그런 사람의 가족·친구다. 판단 기준은 간단하다. "알림을 받을 사람"을 정할 수 있는가가 아니라, "알림 이후의 행동"까지 합의할 수 있는가. 그 답이 없다면 Trusted Contact는 안전 기능이 아니라 관계에 던져진 미완성 알람이 될 수 있다.
참고
1Introducing Trusted Contact in ChatGPT
4OpenAI Develops ChatGPT Feature to Alert Trusted Contacts During Mental Health Crises
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.