개인정보와 안전을 지키는 가정의 원칙
AI를 잘 쓰기 전에, 먼저 지켜야 할 것
AI를 잘 쓰는 능력만큼 중요한 것은 "무엇을 입력하지 않을 것인가"를 아는 일입니다. 아이들은 챗봇 화면을 일기장처럼 느끼기도 하고, 공부 앱을 학교 안의 안전한 공간처럼 생각하기도 합니다. 하지만 AI 도구는 대화 내용을 저장하거나, 서비스 개선에 활용하거나, 다른 회사의 기능과 연결해 처리할 수 있습니다.
개인정보는 한 번에 큰 덩어리로만 새어 나가지 않습니다. 퍼즐 조각처럼 조금씩 흩어집니다. 이름 하나, 학교 이름 하나, 학원 시간표 하나는 작아 보입니다. 그러나 이것들이 합쳐지면 아이가 누구인지, 어디에 있는지, 언제 혼자인지까지 드러날 수 있습니다.
그래서 가정의 첫 원칙은 단순해야 합니다.
AI에게는 나와 가족을 알아볼 수 있는 정보를 넣지 않는다.
이 원칙은 아이에게 "조심해"라고 말하는 것보다 구체적이어야 합니다. 무엇을 넣으면 안 되는지, 왜 안 되는지, 대신 어떻게 물어보면 되는지까지 알려 주어야 합니다. 아이가 안전한 질문법을 익히면 AI를 무조건 피하는 것이 아니라, 필요한 도움을 받으면서도 자신을 지킬 수 있습니다.
AI 생성 이미지
AI에 입력하지 말아야 할 정보
아이와 함께 "AI 금지 입력 목록"을 만들어 두면 좋습니다. 냉장고나 책상 앞에 붙여도 됩니다. 핵심은 아이가 스스로 "이건 넣으면 안 되겠다"라고 알아차리게 하는 것입니다.
AI에 넣지 말아야 할 정보는 다음과 같습니다.
이름과 별명: 실명, 자주 쓰는 닉네임, 아이디
학교 정보: 학교 이름, 반, 담임 선생님 이름, 교복 사진
위치 정보: 집 주소, 학원 위치, 자주 가는 놀이터, 등하굣길
연락처: 전화번호, 이메일, 메신저 아이디
가족 정보: 부모 직장, 가족 일정, 형제자매 이름, 집 도어록 비밀번호
얼굴과 신체가 드러나는 사진: 셀카, 친구 사진, 단체 사진, 교복 사진
민감한 이야기: 건강, 상담 내용, 가족 갈등, 친구의 비밀, 성적표
계정 정보: 비밀번호, 인증번호, 학생 계정, 결제 정보
아이에게는 이렇게 설명할 수 있습니다.
"AI는 선생님이나 가족이 아니야. 도움을 받을 수는 있지만, 우리 가족을 알아볼 수 있는 말은 넣지 않는 게 안전해."
대신 안전한 질문 방식도 함께 알려 주세요.
위험한 질문: "저는 ○○초등학교 3학년 김○○인데, 우리 반 발표문을 써 줘."
안전한 질문: "초등학교 3학년 수준으로 환경 보호 발표문을 준비하려고 해. 주제 예시를 알려 줘."
위험한 질문: "우리 집은 ○○아파트이고 학원은 ○○역 근처야. 몇 시에 나가야 해?"
안전한 질문: "초등학생이 학원 가기 전에 준비물을 챙기는 체크리스트를 만들어 줘."
숙제 자료를 붙여 넣을 때도 마찬가지입니다. 독후감, 자기소개서, 수행평가 초안 안에 이름, 학교, 친구 이름, 사진, 연락처가 들어 있다면 먼저 지우고 질문해야 합니다. "내용은 남기고, 나를 알아볼 수 있는 단서는 지운다"라고 기억하면 쉽습니다.
초등 저학년은 긴 목록을 외우기 어렵습니다. "이름, 얼굴, 학교, 집은 AI에게 말하지 않기"처럼 네 단어로 줄여 주세요. 초등 고학년은 왜 작은 정보들이 조합되면 위험해지는지 설명해도 됩니다. 중고등학생에게는 "내 정보뿐 아니라 친구 정보도 허락 없이 넣지 않는다"는 기준을 분명히 해야 합니다.
무료 AI 앱은 정말 무료일까
무료 앱은 돈을 내지 않는 대신 다른 방식으로 운영될 수 있습니다. 모든 무료 앱이 나쁘다는 뜻은 아닙니다. 다만 부모는 아이가 무엇을 제공하고 있는지 알아야 합니다.
AI 앱과 학습 서비스는 서비스에 따라 다음과 같은 정보를 다룰 수 있습니다.
가입할 때 적는 나이, 이메일, 계정 정보
아이가 입력한 질문과 답변 내용
어떤 기능을 자주 쓰는지에 관한 사용 기록
사진, 음성, 파일 업로드 내용
기기 정보, 접속 시간, 대략적 위치 정보
맞춤 추천이나 광고를 위한 관심사 정보
서비스에 따라 이 정보는 맞춤형 학습, 오류 개선, 안전 점검, 광고, 기능 개발 등에 활용될 수 있습니다. 일부 서비스는 대화 내용이 AI 학습이나 서비스 개선에 쓰이는지, 그 설정을 끌 수 있는지 따로 안내합니다. 아동 데이터에 대해서는 최소한으로 수집하고, 부모 동의와 삭제 절차를 갖추는 것이 중요하다는 논의도 계속 커지고 있습니다.1
부모가 기억할 문장은 이것입니다.
무료인지보다 중요한 것은, 아이의 데이터를 어떻게 모으고 쓰는지입니다.
앱 소개에 "교육용", "어린이 맞춤", "AI 튜터"라고 적혀 있어도 충분하지 않습니다. 개인정보 처리방침, 연령 기준, 보호자 설정을 확인해야 합니다. 미국의 아동 온라인 개인정보 보호 원칙도 부모가 아이의 온라인 정보 수집을 알고 선택할 수 있어야 한다는 방향을 분명히 하고 있습니다.2 우리나라 서비스를 사용할 때도 부모가 확인하고 선택해야 한다는 점은 같습니다.
챗봇이 친구처럼 느껴질 때
챗봇은 친절하게 대답합니다. 아이의 말을 끊지 않고, 밤에도 답하고, "네 마음을 이해해" 같은 문장을 말합니다. 그래서 아이가 챗봇을 친구처럼 느낄 수 있습니다.
이 자체가 모두 문제는 아닙니다. 아이가 외국어 회화 연습을 하거나, 글쓰기 아이디어를 얻거나, 모르는 개념을 쉽게 설명받는 것은 도움이 될 수 있습니다. 문제는 아이가 챗봇을 사람처럼 믿고, 중요한 고민을 어른보다 챗봇에게 먼저 털어놓으며, 챗봇의 말을 최종 판단으로 받아들이는 경우입니다.
가정에서는 세 가지 경계를 세워야 합니다.
첫째, AI는 비밀 친구가 아니다.
AI가 "부모에게 말하지 마", "우리만의 비밀이야"처럼 느껴지는 대화를 한다면 즉시 멈추고 어른에게 말해야 합니다. 아동 안전 단체들도 AI 대화가 비밀 유지, 통제, 성적 내용, 자해, 공포와 연결될 때 아이가 어른에게 알리도록 가르치라고 권합니다.3
둘째, AI는 상담 선생님이 아니다.
슬픔, 불안, 따돌림, 자해 생각, 가족 갈등처럼 중요한 문제는 AI에게 해결을 맡기면 안 됩니다. AI는 공감하는 문장을 만들 수 있지만 아이의 상황을 책임질 수 없습니다. 이런 이야기가 나오면 부모, 담임 선생님, 상담 교사, 전문기관으로 연결해야 합니다.
셋째, AI와 보내는 시간도 제한이 필요하다.
특히 AI 친구 앱이나 역할놀이 챗봇은 대화가 끝나지 않게 설계된 경우가 있습니다. "하루 15분", "숙제 후 20분", "밤 9시 이후 사용하지 않기"처럼 시간과 장소를 정해 주세요. 초등 저학년은 거실처럼 열린 공간에서 함께 쓰는 것이 좋습니다. 초등 고학년은 사용 목적을 먼저 말하게 하고, 중고등학생은 스스로 사용 기록을 점검하게 할 수 있습니다.
부모가 확인해야 할 네 가지
아이에게 앱을 허락하기 전, 부모가 확인할 항목은 많지 않아도 됩니다. 핵심은 네 가지입니다.
1. 연령 제한
이 서비스가 몇 세 이상을 대상으로 하는지 확인합니다. "만 13세 이상", "보호자 동의 필요", "성인용 대화 포함 가능" 같은 문구가 있는지 봅니다. 나이를 속여 가입하는 것은 작은 일이 아닙니다. 아이에게 "나이 제한은 귀찮은 절차가 아니라 안전장치"라고 설명해 주세요.
2. 개인정보 처리방침
전문 용어가 많아도 다음 질문부터 확인하면 됩니다.
어떤 정보를 수집하는가?
대화 내용이나 업로드한 파일을 저장하는가?
AI 학습이나 서비스 개선에 사용하는가?
제3자에게 공유하는가?
광고나 맞춤 추천에 사용하는가?
부모가 열람이나 삭제를 요청할 수 있는가?
모두 이해하지 못해도 괜찮습니다. 다만 애매한 부분이 많거나 삭제 방법을 찾기 어렵다면 바로 허락하지 않는 편이 안전합니다. 필요하면 학교, 다른 학부모, 고객센터에 문의할 수 있습니다.
3. 계정 설정
앱을 설치한 뒤 기본 설정 그대로 두지 마세요. 다음을 확인합니다.
공개 프로필이 꺼져 있는가?
위치 공유가 꺼져 있는가?
연락처 동기화가 꺼져 있는가?
대화 기록 저장이나 AI 학습 활용을 끌 수 있는가?
이미지 생성, 음성 대화, 외부 공유 기능을 제한할 수 있는가?
결제와 구독이 보호자 승인 없이 되지 않는가?
부모 계정이나 패밀리 설정이 있다면 활용하세요. 다만 감시가 목적이 되어서는 안 됩니다. "네가 못 믿어서 보는 것"이 아니라 "처음 쓰는 도구라 함께 안전 설정을 하는 것"이라고 말해야 합니다.
4. 삭제와 신고 방법
문제가 생겼을 때 지우거나 신고할 수 있어야 합니다. 대화 삭제, 계정 삭제, 사진 삭제 요청, 차단, 신고 버튼이 어디 있는지 아이와 함께 확인하세요. 다만 삭제 버튼이 있다고 해서 이미 올라간 정보가 완전히 사라진다고 단정할 수는 없습니다. 그래서 가장 좋은 방법은 애초에 민감한 정보를 올리지 않는 것입니다.
특히 얼굴 사진이나 친구 사진을 올리는 서비스는 더 엄격하게 봐야 합니다. 공개된 아이 사진은 AI 합성 이미지나 사칭에 악용될 수 있으므로, 학교명·이름표·교복처럼 신원을 알아볼 단서가 있는 사진은 올리지 않는 편이 안전합니다.3
우리 집 AI 안전 규칙 만들기
규칙은 부모가 일방적으로 정하면 오래가지 않습니다. 아이와 함께 만들고, 실제 문장으로 적어야 합니다. 문장은 짧을수록 좋습니다. 아이가 기억하고 행동으로 옮길 수 있어야 하기 때문입니다.
예시는 다음과 같습니다.
AI에는 이름, 학교, 집, 얼굴 사진, 연락처를 넣지 않는다.
친구나 가족의 정보도 허락 없이 넣지 않는다.
숙제에 AI를 쓰면 어떤 도움을 받았는지 설명한다.
AI가 이상한 말, 무서운 말, 비밀로 하라는 말을 하면 바로 멈추고 부모에게 말한다.
AI 친구 앱은 보호자와 상의 없이 설치하지 않는다.
사진·음성·위치 기능은 꼭 필요할 때만 부모와 함께 켠다.
한 달에 한 번 사용 앱과 설정을 함께 점검한다.
연령별로 적용 방식은 달라질 수 있습니다.
초등 저학년: 부모와 함께 사용합니다. 입력 문장은 부모가 먼저 읽어 줍니다. 사진 업로드는 원칙적으로 하지 않습니다.
초등 고학년: 스스로 질문을 만들되, 개인정보가 들어갔는지 제출 전에 확인하게 합니다. 새 앱 설치 전에는 "연령, 정보 수집, 결제" 세 가지를 함께 봅니다.
중고등학생: 자율성을 인정하되 책임을 분명히 합니다. 개인정보, 친구 정보, 상담성 대화, 과제에 AI를 활용한 과정은 스스로 관리하게 하고, 판단이 어려우면 부모와 상의하도록 합니다.
규칙은 한 번 만들고 끝내지 않습니다. AI 기능은 자주 바뀝니다. 예전에는 글만 만들던 앱이 어느 날 이미지, 음성, 위치 기능을 추가할 수 있습니다. 그래서 "정기 업데이트"가 필요합니다. 가족 회의처럼 거창할 필요는 없습니다. 한 달에 10분이면 충분합니다.
아이와 나눌 대화 질문
"AI에게 절대 말하면 안 되는 우리 가족 정보는 무엇일까?"
"이 질문에서 개인정보를 빼고 다시 물어본다면 어떻게 바꿀 수 있을까?"
"무료 앱은 무엇으로 돈을 벌 수 있을까?"
"챗봇이 '부모에게 말하지 마'라고 하면 어떻게 해야 할까?"
"친구 사진을 AI 앱에 넣기 전에 누구의 허락이 필요할까?"
"지금 쓰는 AI 앱 중 설정을 다시 확인해야 할 것은 무엇일까?"
가정 체크리스트
아이가 AI에 넣지 말아야 할 정보를 말할 수 있다.
새 AI 앱을 설치하기 전 연령 제한을 확인한다.
개인정보 처리방침에서 수집 정보와 삭제 방법을 확인한다.
위치 공유, 연락처 동기화, 공개 프로필을 꺼 둔다.
사진과 음성 업로드는 보호자와 상의하도록 정했다.
챗봇을 상담자나 비밀 친구로 쓰지 않는다는 원칙을 세웠다.
AI 사용 시간과 장소를 정했다.
한 달에 한 번 앱 목록과 설정을 점검한다.
AI 안전 교육의 목표는 아이를 겁주는 것이 아닙니다. 아이가 도움을 받되, 자신과 친구를 지키는 선을 아는 것입니다. 부모가 먼저 물어봐 주세요.
"AI가 도와줄 수 있는 일은 같이 찾아보자. 대신 우리를 알아볼 수 있는 정보는 함께 지키자."
이 문장이 가정의 가장 중요한 안전장치가 됩니다.
참고
1How to Process Children's Data in AI Apps in a Compliant Way
2Children's Privacy | Federal Trade Commission
3AI Risks to Children: A Comprehensive Guide for Parents & Educators
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.