안전 교육의 핵심은 "올리기 전 멈춤"이다
AI 안전 교육은 문제가 생긴 뒤 혼내는 교육이 아니다. 아이가 사진을 올리기 전, 친구 사진을 편집하기 전, 이상한 메시지에 답하기 전 한 번 멈추게 하는 교육이다.
부모가 먼저 알아야 할 변화가 있다. 예전에는 사진 한 장이 단순한 추억이었다. 지금은 다르다. 얼굴 사진, 교복 사진, 학교 이름, 학원 위치, 친구 태그, 생일 게시글이 모이면 아이를 알아볼 수 있는 정보가 된다. 여기에 AI 이미지 합성 기술이 붙으면, 실제로 하지 않은 행동을 한 것처럼 보이는 사진이나 영상이 만들어질 수 있다.
아이에게는 이렇게 설명하면 쉽다.
"네 사진은 사진첩 안에 있을 때는 추억이야. 그런데 인터넷에 공개되면 모르는 사람이 가져갈 수 있는 재료가 될 수 있어. 얼굴, 학교, 이름표, 위치가 같이 보이면 누군가 너인 척하거나 이상한 사진을 만들 수도 있어."
겁을 주자는 뜻이 아니다. 사진을 절대 찍지 말라는 뜻도 아니다. 다만 "올려도 되는 사진"과 "올리면 안 되는 사진"을 구분하는 감각은 반드시 가르쳐야 한다.
AI 생성 이미지
얼굴, 교복, 학교 정보가 위험해지는 이유
AI 환경에서 개인정보는 이름과 주민등록번호만 뜻하지 않는다. 아이를 특정할 수 있는 단서라면 모두 개인정보가 될 수 있다. 얼굴, 목소리, 자주 가는 장소처럼 예전에는 대수롭지 않게 여겼던 정보도 AI 시대에는 누군가를 흉내 내거나 찾아내는 재료가 될 수 있다.
가정에서 특히 조심해야 할 정보는 다음과 같다.
아이 얼굴이 또렷하게 나온 사진
교복, 체육복, 학교 로고, 명찰이 보이는 사진
학교 이름, 반, 학원 이름, 등하원 시간
집 근처 놀이터, 아파트 이름, 자주 가는 장소
생일, 대회 일정, 가족 여행 일정
친구 얼굴이 함께 나온 사진
음성 녹음, 발표 영상, 춤·노래 영상
계정 아이디, 전화번호, QR코드, 차량 번호처럼 주변에 함께 찍힌 정보
부모가 보기에는 평범한 사진도, 모르는 사람에게는 아이를 찾고 흉내 내는 단서가 될 수 있다. 해외 아동 안전 기관들은 공개된 아이 사진이 AI로 조작되어 성적 이미지나 모욕적인 이미지로 악용될 수 있다고 경고한다1. 한국에서도 학교와 또래 관계를 중심으로 딥페이크 피해가 확산된 사례가 보도되었다. 일부 사례에서는 SNS와 학교 사진에서 가져온 이미지가 합성물의 재료가 되었다2.
아이에게는 "개인정보를 올리지 마"보다 더 구체적으로 말해야 한다.
"네 얼굴이 크게 나온 사진은 공개 계정에 올리지 않는다."
"교복이나 학교 이름이 보이면 가린 뒤 올린다."
"친구 얼굴이 나온 사진은 친구에게 먼저 물어본다."
"모르는 앱에 내 사진을 넣어 변신시키지 않는다."
특히 AI 프로필, 얼굴 변환, 캐릭터 만들기 앱을 사용할 때 주의가 필요하다. 아이는 재미로 얼굴을 넣지만, 부모는 그 사진이 어디에 저장되고 어떻게 쓰이는지 알기 어렵다. 약관을 읽기 어렵거나 보호자가 확인하기 어려운 서비스라면 아이 얼굴 사진은 넣지 않는 쪽이 안전하다.
"장난"이 괴롭힘과 범죄가 되는 순간
딥페이크 문제에서 부모가 꼭 잡아야 할 말이 있다. 바로 "장난이었어요"다.
아이들 사이에서는 친구 얼굴을 웃기게 바꾸거나, 합성 사진을 단톡방에 올리거나, 유명인 사진과 친구 사진을 섞는 일이 가볍게 여겨질 수 있다. 처음에는 "웃기려고" 시작한다. 하지만 다음 순간부터 피해는 통제하기 어려워진다.
합성 이미지가 괴롭힘으로 커지는 흐름은 대개 이렇다.
친구 사진을 허락 없이 저장한다.
AI 앱이나 편집 앱으로 얼굴을 바꾼다.
단톡방이나 익명 계정에 올린다.
누군가 저장하고 다시 퍼뜨린다.
피해 아이는 학교생활, 친구 관계, 등교 자체가 힘들어진다.
만든 아이와 퍼뜨린 아이 모두 책임을 질 수 있다.
부모는 아이에게 법률 용어를 길게 설명하기보다 선을 분명히 그어야 한다.
"남의 얼굴로 가짜 사진을 만드는 건 장난이 아니야."
"친구가 웃었다고 괜찮은 게 아니야. 나중에 싫다고 느끼면 피해가 될 수 있어."
"네가 만들지 않았어도 퍼 나르면 책임이 생길 수 있어."
가정 규칙은 짧아야 지켜진다.
우리 집 이미지 안전 4원칙
남의 사진을 허락 없이 저장하지 않는다.
남의 얼굴을 AI 앱에 넣지 않는다.
웃기려고 만든 합성 사진도 공유하지 않는다.
이상한 사진을 받으면 다시 올리거나 내려받지 말고, 부모나 선생님에게 바로 보여준다.
여기서 중요한 것은 '증거는 남기되, 피해 이미지를 더 퍼뜨리지 않는 것'이다. 피해가 의심되는 상황에서는 화면 캡처, 링크, 계정명, 시간 기록이 필요할 수 있다. 다만 성적인 합성물이나 모욕적인 이미지를 아이가 혼자 저장하고 옮기게 해서는 안 된다. 부모나 학교, 신고 기관과 함께 필요한 범위에서 증거를 정리해야 한다. 다시 공유하면 2차 피해가 될 수 있다.
가짜 계정과 가짜 목소리를 만났을 때
AI는 얼굴만 바꾸는 것이 아니다. 목소리를 흉내 내고, 프로필 사진을 만들고, 실제 사람처럼 메시지를 보낼 수도 있다. 아이가 온라인에서 만나는 상대가 정말 그 사람인지 확인하기 어려워진 것이다.
아이에게 자주 일어날 수 있는 상황은 다음과 같다.
친구 이름과 사진을 단 가짜 계정이 메시지를 보낸다.
"너만 봐"라며 사진이나 영상을 요구한다.
선생님, 학원 강사, 선배인 척하며 링크를 누르라고 한다.
친구 목소리처럼 들리는 음성으로 돈, 사진, 인증번호를 요구한다.
"부모님께 말하지 마"라고 한다.
대응 원칙은 간단해야 한다.
멈춤-확인-차단-알림
멈춤: 바로 답하지 않는다. 링크를 누르지 않는다.
확인: 다른 연락 방법으로 진짜인지 확인한다. 예를 들어 친구라면 학교에서 직접 묻거나 기존 전화번호로 연락한다.
차단: 사진, 돈, 인증번호, 주소를 요구하면 대화를 중단하고 차단한다.
알림: 부모, 담임, 상담교사에게 보여준다.
아이에게 이렇게 말해 두면 좋다.
"진짜 친구라면 다른 방법으로 확인해도 화내지 않아."
"비밀로 하라고 하는 사람은 조심해야 해."
"사진을 보내라고 재촉하면 일단 멈추고 엄마 아빠에게 보여줘."
부모도 태도가 중요하다. 아이가 이상한 메시지를 보여줬을 때 첫마디가 "그러게 왜 그런 걸 했어?"이면 다음부터 아이는 숨긴다. 먼저 이렇게 말해야 한다.
"보여줘서 잘했어. 지금부터 같이 처리하자."
이 한 문장이 아이를 보호한다.
피해를 입었거나 목격했을 때 남겨야 할 증거
디지털 피해는 빨리 지워지는 것처럼 보여도, 캡처와 기록이 있으면 대응하기 쉬워진다. 반대로 너무 놀라서 바로 나가거나 대화방을 삭제하면 확인이 어려워질 수 있다.
피해를 입었거나 목격했을 때는 다음을 남긴다.
게시물 화면 캡처 또는 게시물 위치를 확인할 수 있는 정보
계정명, 아이디, 프로필 주소
대화방 이름과 참여자 정보
게시 날짜와 시간
원본 링크 또는 URL
누가 보냈는지, 누가 공유했는지
피해 아이가 받은 협박 메시지
신고 후 받은 접수 번호
주의할 점도 있다.
합성물이나 성적인 이미지를 다른 사람에게 전달하지 않는다.
원본 파일을 일부러 내려받거나 여러 기기로 옮기지 않는다.
단톡방에 "이거 누가 만들었어?"라며 다시 올리지 않는다.
가해자로 의심되는 아이에게 부모가 직접 협박성 연락을 하지 않는다.
아이 휴대폰을 빼앗기보다, 필요한 증거를 함께 정리한다.
무엇을 캡처해야 할지 애매하면 학교, 경찰, 전문 지원 기관의 안내를 받는다.
도움을 요청할 어른 목록은 평소에 정해 두어야 한다. 사건이 생긴 뒤에는 아이도 부모도 당황한다.
우리 아이 도움 요청 목록
부모 또는 보호자
담임교사
학교 상담교사 또는 학교폭력 담당 교사
믿을 만한 친척 한 명
117 학교폭력 신고센터
112 경찰 신고
1388 청소년상담
디지털성범죄피해자지원센터 등 전문 지원 기관
성적 합성물, 협박, 유포가 관련되면 "아이들끼리 해결할 일"로 보지 말아야 한다. 피해 아이에게 잘못이 없다는 점을 먼저 확인해 주고, 학교와 전문 기관에 도움을 요청해야 한다. 해외 수사기관과 아동 보호 단체도 피해 아동에게 책임을 돌리지 말고 침착하게 신고와 지원 절차를 밟으라고 권한다3.
가족 단톡방도 예외가 아니다
부모가 놓치기 쉬운 부분이 있다. 아이의 사진을 가장 많이 올리는 사람이 부모일 때가 많다는 점이다. 가족 단톡방, SNS, 학부모 모임, 블로그, 카카오스토리, 인스타그램에 아이 사진이 쌓인다. 이것도 아이의 디지털 발자국이다.
"우리 가족끼리만 보는 건데?"라고 생각할 수 있다. 그러나 단톡방 사진도 저장되고, 캡처되고, 다른 방으로 옮겨질 수 있다. 비공개 계정도 완전히 안전하다고 볼 수 없다.
자녀 사진 공유 원칙을 가족이 함께 정하자.
자녀 사진 공유 전 부모 체크리스트
아이가 싫어할 만한 표정, 잠든 모습, 울고 있는 모습은 아닌가?
속옷, 수영복, 목욕, 병원 진료 등 사적인 장면은 아닌가?
교복, 명찰, 학교 이름, 학원 이름이 보이지 않는가?
집 주소, 차량 번호, 아파트 이름, 위치가 드러나지 않는가?
친구 얼굴이 함께 나오지 않는가?
아이에게 "이 사진 올려도 돼?"라고 물었는가?
공개 범위를 가족 또는 가까운 지인으로 제한했는가?
아이가 초등 고학년 이상이라면 사진 게시 전에 동의를 구하는 습관이 필요하다.
"이 사진 가족 단톡방에 올려도 괜찮아?"
"얼굴은 가리고 올릴까?"
"나중에 지우고 싶으면 말해줘."
이 과정은 아이에게 중요한 메시지를 준다. "내 사진은 내 허락이 필요한 정보"라는 감각이다. 아이가 자기 사진에 대한 권리를 배워야 친구 사진도 함부로 다루지 않는다.
아이와 함께 정하는 디지털 안전 약속
마지막으로 가족이 한 장짜리 약속을 만들어 두면 좋다. 길 필요는 없다. 냉장고나 책상 앞에 붙일 정도면 충분하다.
우리 집 AI·사진 안전 약속
내 얼굴, 친구 얼굴, 교복 사진은 공개 계정에 올리지 않는다.
친구 사진을 AI 앱에 넣거나 합성하지 않는다.
가짜 사진, 이상한 영상, 협박 메시지를 받으면 혼자 해결하지 않는다.
링크, 인증번호, 주소, 학교 정보는 함부로 보내지 않는다.
누군가 "비밀로 하라"고 하면 부모에게 말한다.
피해를 봤거나 목격했을 때는 다시 퍼뜨리지 말고, 어른에게 도움을 요청한다.
부모도 아이 사진을 올리기 전에 아이에게 묻는다.
AI 시대의 안전 교육은 아이를 의심하는 일이 아니다. 아이가 위험한 상황을 만났을 때 숨지 않고 말할 수 있게 만드는 일이다. 아이에게 필요한 것은 완벽한 통제가 아니라, 멈추는 습관과 도움을 요청할 수 있는 관계다.
가정의 기준은 이 한 문장으로 충분히 시작할 수 있다.
"사진을 올리기 전에는 한 번 멈추고, 이상한 일을 만나면 혼자 숨기지 않는다."
참고
1National Crime Agency, AI-manipulated images of children guidance
2BBC, Inside the deepfake porn crisis engulfing Korean schools
3National Crime Agency, parent and carer guidance on AI-manipulated images
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.