십대가 AI를 숙제 도우미, 창작 파트너, 사적인 질문 창구, 때로는 정서적 지지 대상으로 쓴다면 누가 "이 정도면 안전하다"고 판단해야 할까요. 부모일까요, 학교일까요, 플랫폼일까요, 아니면 규제기관일까요.
OpenAI는 유럽·중동·아프리카 지역을 겨냥한 청소년 안전 청사진과 €50만 규모의 Youth & Wellbeing Grant를 공개했습니다.1 중요한 점은 이것이 단순한 기업 정책 발표가 아니라는 겁니다. 앞으로 학교, 에듀테크 기업, 부모, 규제기관이 청소년 AI 접근권을 어떤 조건으로 허용할지 미리 보여주는 사례에 가깝습니다.
질문은 "쓰게 할까"가 아니라 "어떤 조건에서 쓰게 할까"다
청소년 AI 논의는 쉽게 두 극단으로 흐릅니다. 하나는 "위험하니 막자", 다른 하나는 "미래 역량이니 열어주자"입니다. 하지만 실제 현장은 더 복잡합니다.
AI 챗봇은 소셜미디어와 다릅니다. 피드처럼 콘텐츠를 흘려보내는 도구가 아니라, 사용자의 질문에 맞춰 대화합니다. 그래서 학습 보조에는 강력하지만, 외로움·자해 충동·식이장애·성적 호기심 같은 민감한 주제에서는 위험이 커집니다.
OpenAI 청사진이 다루는 핵심도 여기 있습니다. 미성년자 대상 AI가 자살·자해를 조장하지 않아야 하고, 노골적 성적·폭력적 롤플레이를 제한해야 하며, 위험 물질 접근을 돕지 않아야 한다는 식의 최소 기준이 제시됐습니다.2
실무적으로는 "AI 사용 허용 여부"보다 다음 네 가지를 먼저 봐야 합니다.
사용자의 나이를 어떻게 추정하거나 확인하는가
학습, 놀이, 상담성 대화 등 목적별 위험을 구분하는가
부모나 학교의 개입 권한이 어디까지인가
위기 상황에서 사람과 기관으로 연결되는가
좋은 청소년 AI 정책은 금지 목록이 긴 정책이 아니라, 상황별 위험을 다르게 다루는 정책입니다.
믿을 만한 청소년 AI 도구인지 보는 다섯 가지 기준
첫째, AI가 무엇인지 명확히 말해야 합니다. 청소년이 챗봇을 사람, 친구, 연인, 권위 있는 조언자로 오해하도록 설계돼 있다면 위험 신호입니다. OpenAI 청사진도 미성년자에게 정서적 의존이나 비밀 유지를 유도하는 설계를 문제로 봅니다.2
둘째, 부모 통제는 감시가 아니라 경계 설정이어야 합니다. 계정 연결, 메모리·채팅 기록 설정, 이용 시간 제한, 자해 위험 신호 알림 같은 기능은 유용할 수 있습니다.2 다만 모든 대화를 부모가 들여다보는 방식은 청소년의 사적 탐색을 위축시킬 수 있습니다.
셋째, 위기 대응은 "답변 차단"에서 끝나면 안 됩니다. 자해나 극심한 불안 신호가 감지될 때 위기 상담 채널, 보호자, 전문가 도움으로 연결하는 구조가 필요합니다. 단순히 "그 질문에는 답할 수 없습니다"라고 끝내면 가장 도움이 필요한 순간에 사용자를 혼자 남길 수 있습니다.
넷째, 데이터 경계가 분명해야 합니다. 청소년의 대화는 학습, 건강, 가족관계, 정체성 같은 민감 정보를 포함할 수 있습니다. 따라서 채팅 기록, 메모리, 모델 개선용 데이터 사용 여부를 부모와 청소년 모두가 이해할 수 있어야 합니다.
다섯째, 외부 검증이 있어야 합니다. OpenAI의 EMEA 보조금은 NGO와 연구기관이 청소년 안전, AI 리터러시, 실제 보호장치의 효과를 연구하도록 지원하는 프로그램입니다. 공식 신청 페이지 기준 총 규모는 €500,000이며, EMEA 지역 단체와 연구기관을 대상으로 합니다.3 기업 내부 평가만으로는 부족하고, 현장 조직과 독립 연구가 함께 들어와야 합니다.
안전 규칙이 오히려 청소년에게 해가 될 때
강한 보호가 항상 좋은 보호는 아닙니다. 과도한 필터링은 정상적인 질문까지 막을 수 있습니다. 예를 들어 성교육, 정신건강, 폭력 피해 신고처럼 민감하지만 필요한 정보가 차단되면 청소년은 더 위험한 비공식 경로로 이동할 수 있습니다.
나이 확인도 마찬가지입니다. 유럽에서는 개인정보를 덜 노출하는 연령 확인 방식이 논의되고 있지만, 실제 구현은 쉽지 않습니다. 너무 느슨하면 미성년자가 성인 환경에 노출되고, 너무 강하면 민감한 신분 정보 수집이 늘어납니다.
또 다른 위험은 '컴플라이언스 연극'입니다. 안전 정책 문서를 공개하고 부모 통제 버튼을 붙였다고 해서 실제로 안전한 것은 아닙니다. 중요한 것은 오작동률, 위기 탐지 이후 연결률, 청소년이 이해할 수 있는 설명, 학교 현장에서의 관리 가능성입니다.
이 점에서 유럽의 맥락은 흥미롭습니다. EU AI Act, GDPR, Digital Services Act, 영국 Online Safety Act 같은 규제 틀이 이미 존재하고, 각국은 청소년의 온라인 접근 제한과 학교 내 스마트폰 정책까지 논의하고 있습니다.2 AI 청소년 안전은 별도 주제가 아니라 교육, 개인정보, 플랫폼 책임, 정신건강 정책이 겹치는 영역이 되고 있습니다.
2026년에 부모와 학교가 물어야 할 질문
올해 이후 청소년용 AI 제품을 검토하는 학교나 가정이라면 기능 소개보다 운영 조건을 먼저 물어야 합니다.
이 도구는 미성년자를 기본적으로 더 보호적인 경험으로 안내하는가. 민감한 대화에서 어떤 답변을 줄이고, 어떤 도움으로 연결하는가. 부모 통제는 청소년의 신뢰를 무너뜨리지 않는 방식인가. 학교는 교사에게 어떤 대시보드와 개입 권한을 주는가. 데이터는 어디에 저장되고, 삭제·비활성화가 가능한가.
OpenAI의 청사진은 완성된 답이라기보다 앞으로의 협상 초안에 가깝습니다. 부모는 통제와 신뢰 사이에서, 학교는 혁신과 책임 사이에서, 에듀테크 기업은 성장과 안전 설계 사이에서 선택해야 합니다.
청소년 AI 안전의 핵심은 AI를 멀리하는 법이 아니라, 가까이 두어도 무너지지 않는 조건을 만드는 일입니다. 지금 신경 써야 할 사람은 규제기관만이 아닙니다. AI를 숙제 도구로 허용하려는 학교, 상담성 챗봇을 검토하는 기관, 자녀의 ChatGPT 사용을 막을지 고민하는 부모 모두가 이 기준을 자기 언어로 가져와야 합니다.
참고
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.