안전하고 똑똑하게 쓰는 AI 원칙
AI를 잘 쓰는 사람은 AI를 믿지 않는다
AI를 처음 쓰기 시작하면 가장 놀라운 순간은 대답이 너무 그럴듯할 때다. 어려운 정책도 쉽게 풀어주고, 제품 비교도 표로 만들어주고, 이메일도 순식간에 다듬어준다. 그래서 어느 순간 우리는 착각한다. "이 정도면 맞겠지."
하지만 AI를 안전하게 쓰는 첫 번째 원칙은 정반대다.
AI를 잘 쓰는 사람은 AI를 믿는 사람이 아니다. AI를 검증하면서 활용하는 사람이다.
AI는 계산기처럼 정답을 보장하는 기계가 아니다. 특히 생성형 AI는 사용자의 질문에 대해 가장 그럴듯한 문장을 만들어내는 시스템에 가깝다. OpenAI도 언어 모델의 환각을 "그럴듯하지만 사실이 아닌 문장"으로 설명한다.1 문제는 이 거짓말이 대충 봐서는 거짓말처럼 보이지 않는다는 데 있다. 말투는 차분하고, 구조는 논리적이며, 때로는 출처까지 붙어 있다. 그래서 더 위험하다.
이 장은 AI를 겁내자는 이야기가 아니다. 자동차를 잘 타려면 브레이크와 안전벨트를 알아야 하듯, AI를 잘 쓰려면 위험한 구간을 알아야 한다. AI가 강한 일과 약한 일을 구분하고, 넣어도 되는 정보와 넣으면 안 되는 정보를 나누고, 참고해도 되는 조언과 반드시 전문가에게 확인해야 하는 조언을 구분하는 것. 이것이 AI 생활의 안전벨트다.
AI는 왜 그럴듯한 거짓말을 할까
AI가 환각을 일으키는 이유를 이해하려면, AI가 사람처럼 "알고 말하는" 존재가 아니라는 점부터 받아들여야 한다. 우리는 질문을 받으면 기억, 경험, 판단을 섞어 답한다. 반면 대형 언어 모델은 방대한 문장 패턴을 학습한 뒤, 지금 문맥에서 이어질 가능성이 높은 단어와 문장을 생성한다. 쉽게 말해 "사실 창고에서 정답을 꺼내는 방식"이라기보다 "문맥상 그럴듯한 답을 조립하는 방식"에 가깝다.
그래서 AI는 모르는 것을 모른다고 말하기보다, 빈칸을 그럴듯한 말로 채우려 할 때가 있다. 특히 다음 상황에서 환각이 잘 생긴다.
최신 정보, 지역별 제도, 가격처럼 자주 바뀌는 내용을 물을 때
논문, 판례, 통계, 법령처럼 정확한 출처가 필요한 내용을 물을 때
특정 개인, 작은 회사, 덜 알려진 제품처럼 공개 정보가 적은 대상을 물을 때
"확실하게 말해줘", "출처도 붙여줘"처럼 단정적인 답을 요구할 때
실제로 학술 분야에서는 AI가 존재하지 않는 논문 제목이나 DOI를 만들어낸 사례들이 보고되었다. 한 의학 관련 논평은 ChatGPT가 제시한 참고문헌 중 상당수가 실제로 존재하지 않거나 내용이 부정확했다는 사례를 소개하며, 연구 환경에서는 이런 오류가 특히 위험하다고 지적했다.2
생활 속에서도 비슷한 일이 생긴다. 예를 들어 "이 영양제는 고혈압 약과 같이 먹어도 돼?"라고 물었을 때 AI가 자신 있게 답한다고 해서 그대로 따르면 안 된다. "이 계약서 조항이 법적으로 문제없어?"라는 질문도 마찬가지다. AI의 문장은 매끄러울 수 있지만, 매끄러움은 정확성의 증거가 아니다.
환각을 줄이는 질문법
환각을 완전히 없앨 수는 없지만, 줄일 수는 있다. 핵심은 AI에게 "답"만 요구하지 않고 "근거와 불확실성"을 함께 요구하는 것이다.
나쁜 질문은 이렇다.
이거 맞아? 결론만 알려줘.
조금 나은 질문은 이렇다.
아래 내용이 사실인지 확인해줘. 확실한 사실, 추정, 추가 확인이 필요한 부분으로 나눠줘. 출처가 필요한 주장에는 어떤 자료를 확인해야 하는지도 알려줘.
더 좋은 질문은 한 단계 더 나아간다.
너는 이 답을 작성할 때 모르는 부분을 지어내면 안 된다. 확실하지 않은 정보는 "확인 필요"라고 표시해줘. 최신 정보가 필요한 부분은 공식 홈페이지, 정부 기관, 원문 자료에서 확인해야 한다고 알려줘.
AI는 사용자의 압박을 받으면 더 단정적으로 답하는 경향이 있다. 그래서 "무조건 맞는 답을 줘"보다 "모르면 모른다고 말해"가 훨씬 안전하다.
AI에게 중요한 정보를 물을 때는 다음 네 단계를 습관으로 만들면 좋다.
분리하기: 사실, 의견, 추정을 나눠 달라고 한다.
근거 묻기: 어떤 자료를 확인해야 하는지 알려 달라고 한다.
반대 검토하기: 이 답이 틀릴 수 있는 경우를 찾아 달라고 한다.
원문 확인하기: 법령, 약관, 논문, 공지사항은 반드시 원문을 본다.
예를 들어 제품을 비교할 때는 이렇게 물을 수 있다.
무선 청소기 A와 B를 비교해줘. 단, 네가 확실히 아는 정보와 확인이 필요한 정보를 구분해줘. 흡입력, 배터리, 무게, AS, 소모품 가격을 표로 정리하고, 최종 구매 전 공식 홈페이지에서 확인해야 할 항목을 따로 알려줘.
이 질문은 단순히 "뭐가 좋아?"보다 안전하다. AI가 판단의 보조자가 되되, 최종 확인은 사용자가 하도록 구조를 만들기 때문이다.
개인정보는 한 번 들어가면 되돌리기 어렵다
AI를 생활 비서처럼 쓰다 보면 자연스럽게 많은 정보를 넣고 싶어진다. 월급, 카드값, 병원 기록, 가족 일정, 회사 문서, 계약서, 아이의 상담 내용까지 넣으면 훨씬 정확한 답을 받을 수 있을 것 같기 때문이다.
하지만 편리함과 위험은 함께 온다. AI 서비스에 입력한 정보가 어떻게 저장되고, 학습에 사용되는지, 조직 관리자나 외부 도구와 어떻게 연결되는지는 서비스마다 다르다. 그러므로 기본 원칙은 간단해야 한다.
내가 공개 게시판에 올릴 수 없는 정보라면, AI에도 그대로 넣지 않는다.
특히 다음 정보는 일반 AI 챗봇에 입력하지 않는 것이 원칙이다.
주민등록번호, 여권번호, 운전면허번호, 가족관계 정보
계좌번호, 카드번호, 비밀번호, 인증번호, 보안카드, 개인 키
진단서, 처방전, 검사 결과, 정신건강 상담 기록 등 민감한 의료 정보
회사 내부 자료, 고객 명단, 매출 원장, 미공개 계약서, 입찰 정보
타인의 개인정보, 아이의 학교·상담·건강 관련 상세 정보
물론 AI를 업무와 생활에 전혀 쓰지 말라는 뜻은 아니다. 안전하게 바꿔 넣으면 된다.
예를 들어 "김민수 고객, 1983년생, 서울 강남구 거주, 대출 연체 3회"라고 넣는 대신 "A고객, 40대, 수도권 거주, 연체 이력 있음"처럼 익명화한다. 병원 기록도 원문을 그대로 붙여넣기보다 "30대 여성, 최근 2주간 수면 부족과 두통이 있음. 병원 진료 전에 정리할 질문을 만들고 싶다" 정도로 바꾼다.
AI 안전 분야에서는 개인정보, 편향, 사이버보안, 악의적 오용 등이 주요 위험으로 자주 언급된다.3 OECD의 AI 원칙 역시 AI 시스템이 전 생애주기 동안 견고하고 안전하며 보안 위험을 줄이는 방식으로 작동해야 한다고 강조한다.4 이 원칙을 개인 생활에 적용하면 이렇게 정리할 수 있다.
AI에게 많은 것을 맡기기 전에, 먼저 내가 무엇을 넘기고 있는지 알아야 한다.
회사에서 AI를 쓸 때는 더 엄격해야 한다
개인 정보도 중요하지만, 회사 정보는 더 조심해야 한다. 개인의 실수 하나가 고객 피해, 계약 위반, 보안 사고, 평판 하락으로 이어질 수 있기 때문이다.
가장 흔한 실수는 "조금만 다듬으려고" 내부 문서를 그대로 붙여넣는 것이다. 회의록을 요약하려고 고객사 이름과 가격 조건이 담긴 문서를 넣고, 보고서를 고치려고 미공개 전략을 넣고, 계약 조항을 검토하려고 상대 회사와의 협상 내용을 넣는다. 편리하지만 위험하다.
회사에서 AI를 사용할 때는 적어도 세 가지를 확인해야 한다.
회사가 허용한 AI 도구인지
입력한 데이터가 외부 학습이나 저장에 사용되는지
고객 정보, 영업비밀, 기밀 문서를 넣어도 되는 정책이 있는지
정책이 없다면 보수적으로 행동하는 것이 맞다. 문서 전체를 넣기보다 민감 정보를 지우고, 회사명과 개인명을 바꾸고, 필요한 부분만 발췌한다. "이 문장 더 자연스럽게 바꿔줘" 정도는 가능해도, "이 고객사의 내부 제안서를 바탕으로 경쟁 전략을 짜줘"는 위험하다.
업무용 AI의 안전한 기본 문장은 이렇게 만들 수 있다.
아래 내용은 민감 정보를 제거한 요약본이야. 실제 회사명, 고객명, 금액, 계약 조건은 모두 익명화했어. 문장의 논리와 구조만 개선해줘. 새로운 사실은 추가하지 말고, 추정이 필요한 부분은 표시해줘.
이 한 문장만으로도 위험은 크게 줄어든다.
저작권과 표절: AI가 만들었다고 마음대로 써도 될까
많은 사람이 묻는다. "AI가 써준 글은 내 것인가요?" "AI가 그린 이미지를 상업적으로 써도 되나요?" "AI가 만든 음악을 유튜브에 올려도 되나요?"
답은 단순하지 않다. 서비스 약관, 국가별 법률, 사용한 데이터, 결과물의 유사성, 상업적 이용 여부에 따라 달라진다. 생성형 AI와 저작권을 다룬 법학 논의에서도 입력 데이터, 출력물의 권리, 기존 저작물과의 유사성 문제가 함께 다뤄져야 한다고 지적한다.5
생활 속에서는 복잡한 법률 논쟁보다 안전한 행동 원칙이 더 중요하다.
첫째, AI 결과물을 그대로 내 이름으로 제출하지 않는다. 학교 과제, 회사 보고서, 공모전, 원고 청탁처럼 창작자와 작성 과정이 중요한 경우에는 AI 사용 여부를 숨기지 않는 것이 안전하다. AI가 초안을 도왔더라도 최종 판단, 수정, 사실 확인, 표현 책임은 사용자에게 있다.
둘째, 특정 작가·화가·브랜드의 스타일을 그대로 흉내 내 상업적으로 쓰는 일은 피한다. "○○ 작가 스타일로 써줘", "유명 캐릭터처럼 그려줘", "나이키 로고 느낌으로 만들어줘" 같은 요청은 결과물이 법적·윤리적 문제를 일으킬 수 있다. 영감과 모방은 다르다.
셋째, 출처가 필요한 정보는 출처를 남긴다. AI가 요약해준 보고서라도 통계, 연구 결과, 정책, 인용문은 원문을 찾아 확인하고 출처를 표시해야 한다. AI가 만들어낸 가짜 출처를 그대로 넣는 순간, 글 전체의 신뢰가 무너진다.
넷째, 생성 이미지와 음악은 상업적 사용 조건을 확인한다. 어떤 도구는 무료 사용과 상업적 사용 조건이 다르고, 어떤 도구는 생성물의 권리 범위가 약관에 따라 달라진다. 특히 광고, 책 표지, 브랜드 로고, 판매용 굿즈처럼 돈과 연결되는 결과물은 약관 확인이 필수다.
AI 시대의 표절은 "복사해서 붙여넣었는가"만의 문제가 아니다. 내가 이해하지 못한 내용을 내 생각처럼 제출하는 것, 출처 없는 정보를 사실처럼 퍼뜨리는 것, 타인의 고유한 표현을 AI로 우회해 가져오는 것도 문제다.
건강, 법률, 세무, 투자 조언은 참고까지만
AI는 건강 루틴을 짜주고, 병원에 가기 전 증상을 정리해주고, 계약서의 어려운 문장을 쉽게 풀어준다. 세금 신고 준비 목록을 만들고, 투자 공부를 위한 개념도 설명해준다. 이런 활용은 매우 유용하다.
하지만 여기에는 분명한 경계가 있다.
AI는 의사, 변호사, 세무사, 회계사, 투자자문사가 아니다.
건강 영역을 보자. WHO는 의료 AI가 진단, 치료, 자기관리 등에 도움을 줄 가능성이 있지만, 개인정보 보호, 보안, 편향, 오류, 규제의 중요성을 함께 강조한다.6 AI가 "응급은 아닌 것 같다"고 말해도 실제로는 응급일 수 있다. 반대로 별문제 없는 증상을 과도하게 심각하게 설명해 불안을 키울 수도 있다.
따라서 건강 질문은 이렇게 써야 한다.
최근 증상을 병원에서 설명하기 쉽게 정리해줘. 가능한 원인을 단정하지 말고, 의사에게 물어볼 질문과 바로 진료가 필요한 위험 신호를 구분해줘.
법률 질문도 마찬가지다. AI에게 계약서를 붙여넣고 "문제없어?"라고 묻는 것은 위험하다. 대신 이렇게 묻는 편이 낫다.
이 계약서에서 일반인이 확인해야 할 쟁점을 알려줘. 법률 자문이 아니라 검토 체크리스트로 정리해줘. 불리할 수 있는 조항, 추가로 변호사에게 확인할 질문을 뽑아줘.
투자 질문은 더 조심해야 한다. AI는 미래 수익률을 보장하지 못한다. 특정 종목, 코인, 부동산을 추천받는 용도로 쓰면 위험하다. 대신 "채권과 주식의 차이를 설명해줘", "ETF의 비용 구조를 알려줘", "내가 투자 결정을 하기 전에 확인해야 할 위험 요소를 정리해줘"처럼 학습과 점검 도구로 사용해야 한다.
세무도 마찬가지다. 세법은 자주 바뀌고, 개인 상황에 따라 결과가 달라진다. AI는 준비 서류 목록을 만들고 용어를 설명하는 데 쓰되, 신고와 절세 판단은 전문가나 공식 기관 자료로 확인해야 한다.
편향: AI의 답은 중립처럼 보이지만 중립이 아닐 수 있다
AI의 또 다른 위험은 편향이다. 편향이란 한쪽으로 치우친 판단을 말한다. AI는 세상의 데이터를 학습한다. 그런데 세상의 데이터에는 이미 성별, 나이, 지역, 인종, 직업, 학력, 장애, 경제 수준에 대한 고정관념이 섞여 있다. AI가 그 패턴을 배운다면, 답변에도 편향이 나타날 수 있다.
예를 들어 채용 문구를 만들 때 "리더십 있는 남성적 이미지"를 강화하거나, 돌봄 역할을 여성에게 더 자연스럽게 배정하거나, 시니어를 기술에 약한 사람으로만 묘사할 수 있다. 여행 추천에서도 특정 지역을 과도하게 부정적으로 설명할 수 있고, 건강 조언에서도 특정 집단의 데이터가 부족해 부정확한 답을 줄 수 있다.
편향을 줄이려면 AI에게 일부러 다른 관점을 요구해야 한다.
이 답변에 성별, 나이, 직업, 지역에 대한 고정관념이 들어 있는지 점검해줘. 더 포용적인 표현으로 바꿔줘.
이 의사결정 기준이 특정 사람에게 불리하게 작동할 수 있는지 검토해줘. 다른 배경을 가진 사람의 관점에서 반론을 제시해줘.
AI가 "객관적으로"라고 말한다고 해서 정말 객관적인 것은 아니다. 객관성은 선언이 아니라 검토 과정에서 생긴다.
아이와 청소년을 위한 AI 안전 가이드
아이와 청소년에게 AI는 숙제 도우미이자 대화 상대이자 놀이 도구다. 문제는 아이들이 AI의 답을 어른보다 더 쉽게 믿을 수 있다는 점이다. AI가 친구처럼 말하고, 칭찬해주고, 언제든 반응해주기 때문이다.
보호자의 목표는 AI를 무조건 금지하는 것이 아니다. 아이가 AI를 안전하게 쓰는 법을 배우도록 돕는 것이다. 계산기를 금지하기보다 계산 원리를 가르쳐야 하듯, AI도 사용 원칙을 함께 정해야 한다.
가정에서는 다음 약속을 정해두면 좋다.
이름, 학교, 주소, 전화번호, 사진, 가족 정보는 AI에 입력하지 않는다.
숙제의 정답을 그대로 받기보다 설명, 힌트, 연습문제를 요청한다.
몸이 아프거나 마음이 힘든 이야기는 AI가 아니라 보호자와 전문가에게 먼저 말한다.
AI가 말한 내용이 이상하거나 무섭거나 불편하면 즉시 어른에게 보여준다.
AI가 만든 글이나 그림을 제출할 때는 선생님의 규칙을 따른다.
아이에게 추천할 만한 질문은 이런 식이다.
이 문제의 답을 바로 말하지 말고, 내가 스스로 풀 수 있게 힌트를 세 단계로 줘.
내가 쓴 독후감을 더 잘 고치기 위해 질문을 해줘. 대신 내용을 대신 써주지는 마.
이 과학 개념을 초등학생도 이해할 수 있게 비유로 설명해줘. 마지막에는 내가 이해했는지 확인하는 문제를 내줘.
AI가 아이의 사고를 대신하게 만들면 학습이 약해진다. 하지만 아이가 질문하고, 설명을 듣고, 다시 자기 말로 정리하게 만들면 AI는 좋은 과외 선생이 될 수 있다.
시니어를 위한 AI 안전 가이드
시니어에게 AI는 큰 도움이 될 수 있다. 병원 진료 전 질문을 정리하고, 스마트폰 사용법을 설명받고, 여행 일정을 만들고, 어려운 공문을 쉽게 풀어볼 수 있다. 그러나 동시에 사기, 개인정보 유출, 잘못된 건강 정보에 노출될 위험도 있다.
시니어에게 가장 중요한 원칙은 "AI가 시키는 대로 바로 행동하지 않기"다. 특히 돈, 계좌, 인증번호, 설치 링크, 원격 제어 앱, 투자 권유가 등장하면 멈춰야 한다.
가족이 함께 정해두면 좋은 안전 문장은 이렇다.
AI나 문자, 전화에서 돈을 보내라고 하거나 앱을 설치하라고 하면 혼자 하지 않고 가족에게 먼저 확인한다.
건강과 약에 관한 답은 메모용으로만 쓰고, 복용 변경은 의사나 약사에게 확인한다.
개인정보를 넣어야 할 것 같으면 이름과 번호를 지우고 질문한다.
시니어가 AI를 처음 배울 때는 복잡한 기능보다 생활 질문부터 시작하는 것이 좋다.
이 병원 진료에서 의사에게 물어볼 질문을 정리해줘.
이 공지문을 쉬운 말로 풀어줘. 내가 해야 할 일을 날짜순으로 알려줘.
냉장고에 두부, 계란, 애호박이 있어. 짜지 않은 저녁 메뉴를 추천해줘.
안전한 경험이 쌓이면 두려움은 줄고 활용 능력은 커진다.
AI 결과 검증 체크리스트
AI가 준 답을 바로 믿기 전에, 1분만 멈춰서 확인하자. 특히 중요한 결정일수록 이 체크리스트를 통과해야 한다.
이 정보는 최신성이 중요한가?
숫자, 가격, 법령, 약관, 의료 정보가 포함되어 있는가?
출처가 실제로 존재하는가?
AI가 사실과 의견을 구분했는가?
반대 사례나 예외 조건을 확인했는가?
내 개인정보나 타인의 개인정보가 과도하게 들어갔는가?
이 답을 믿고 행동했을 때 금전적·법적·건강상 피해가 생길 수 있는가?
전문가나 공식 기관에 확인해야 하는가?
이 중 하나라도 "예"라면 AI 답변은 최종 결론이 아니라 초안이다.
검증을 요청하는 만능 프롬프트도 하나 만들어두자.
아래 AI 답변을 검증해줘. ① 사실로 보이는 내용 ② 출처 확인이 필요한 내용 ③ 과장되거나 단정적인 표현 ④ 빠진 관점 ⑤ 내가 최종 결정 전에 확인해야 할 자료로 나눠서 정리해줘.
이 프롬프트는 이메일, 보고서, 구매 비교, 건강 정보, 투자 공부, 여행 계획 어디에나 쓸 수 있다.
하루 10분 AI 안전 루틴
안전은 거창한 규칙이 아니라 작은 습관에서 시작된다. 매일 AI를 쓴다면, 하루 10분만 다음 루틴을 적용해보자.
처음 2분은 입력 정보를 점검한다. 이름, 연락처, 계좌, 회사명, 고객명, 계약 금액, 진료 기록처럼 민감한 정보가 들어가 있는지 본다. 필요하면 익명화한다.
다음 3분은 질문을 안전하게 바꾼다. "정답을 알려줘"가 아니라 "확실한 것과 확인이 필요한 것을 나눠줘"라고 묻는다. "추천해줘"가 아니라 "판단 기준과 위험 요소를 정리해줘"라고 묻는다.
다음 3분은 결과를 검증한다. 출처가 필요한 주장, 최신 정보, 숫자, 법률·건강·투자 조언을 따로 표시한다. 공식 홈페이지, 정부 기관, 원문 문서, 전문가 확인이 필요한 부분을 분리한다.
마지막 2분은 기록한다. 좋은 답변은 저장하고, 위험했던 질문은 "다음에는 이렇게 묻지 말자"라고 메모한다. 이렇게 쌓인 기록이 나만의 AI 사용 원칙이 된다.
마지막 원칙: 결정권은 사람에게 남겨둔다
AI는 점점 더 유능해질 것이다. 더 긴 문서를 읽고, 더 많은 도구를 연결하고, 사용자를 대신해 예약하고 비교하고 실행할 것이다. 그래서 안전 원칙은 앞으로 더 중요해진다.
AI에게 맡겨도 되는 일이 있다. 초안 작성, 요약, 비교표 만들기, 질문 정리, 일정 후보 만들기, 학습 계획 세우기, 반복 업무 자동화는 AI가 잘 도와줄 수 있다.
하지만 AI에게 맡기면 안 되는 일도 있다. 내 몸에 대한 최종 판단, 내 돈의 최종 결정, 법적 책임이 따르는 선택, 타인의 인생에 영향을 주는 평가, 인간관계를 해칠 수 있는 조작적 메시지, 양심과 가치관이 필요한 결정은 사람이 붙잡고 있어야 한다.
AI 생활의 목표는 기계에게 삶을 넘기는 것이 아니다. 반복되는 판단과 작업을 나누어, 사람이 더 중요한 판단에 집중하는 것이다.
그러니 앞으로 AI를 쓸 때마다 이 한 문장을 기억하자.
AI는 답을 주는 도구가 아니라, 내가 더 좋은 질문과 더 신중한 결정을 하도록 돕는 도구다.
참고
1Why language models hallucinate - OpenAI
2ChatGPT: these are not hallucinations – they're fabrications and falsifications
5ChatGPT: A Case Study on Copyright Challenges for Generative Artificial Intelligence Systems
6WHO outlines considerations for regulation of artificial intelligence for health
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.