책에 포함된 노트AI 교육 1권 : AI 리터러시 첫걸음: Python과 데이터로 배우는 질문·분석·검증

AI 윤리와 출처 표기

2026-05-19Views 135약 11분생성형 AI 활용

Summary

이 장에서 배울 것

이 장에서는 AI를 사용할 때 지켜야 할 기본 태도를 배웁니다. 핵심은 단순합니다. AI를 잘 쓰는 사람은 빠르게 결과물을 만드는 사람만이 아닙니다. 무엇을 입력했고, 무엇을 믿었고, 무엇을 확인했으며, 어디까지 자신이 책임질 수 있는지 설명할 수 있는 사람입니다.

이번 장의 목표는 다음과 같습니다.

개인정보와 민감정보를 AI 도구에 넣기 전에 위험을 점검한다.
데이터 보안, 편향, 차별, 저작권, 표절 문제를 구분한다.
AI가 만든 답변과 사람이 검토한 내용을 나누어 설명한다.
과제와 프로젝트에서 AI 사용 사실을 투명하게 밝힌다.
데이터·출처 카드와 AI 사용 고지문을 작성한다.

AI 윤리는 금지 목록을 외우는 공부가 아닙니다. 상황을 보고 위험을 찾고, 줄이고, 기록하는 의사결정 연습입니다.

AI 윤리와 출처 표기

왜 이 주제가 중요한가

지금까지 우리는 AI의 개념, 생성형 AI, Python, pandas, 시각화, 통계적 직관, 프롬프트, 답변 검증, 미니 프로젝트를 배웠습니다. 이제 마지막으로 확인해야 할 질문이 남았습니다.

"이 결과물을 이렇게 만들어도 되는가?"

데이터 분석 결과가 정확해 보여도, 개인정보가 노출되었다면 좋은 프로젝트가 아닙니다. 그래프가 멋져 보여도, 특정 집단을 부당하게 단정한다면 위험한 분석입니다. AI가 문장을 잘 다듬어 주었더라도, 출처를 밝히지 않고 제출하면 학업 윤리에 어긋날 수 있습니다.

AI 리터러시는 기술 이해를 넘어 윤리적 판단까지 포함합니다. 최근 AI 리터러시 연구에서도 AI를 아는 능력은 기술 사용 능력뿐 아니라 사회적 영향과 윤리적 고려를 함께 다루어야 한다고 설명합니다¹. AI 윤리 리터러시는 여기서 한 걸음 더 나아갑니다. 개인정보 보호, 공정성, 책임성, 인간 중심성 같은 원칙을 실제 사용 상황에 적용하는 능력입니다².

핵심 개념 설명

1. 개인정보와 데이터 보안

개인정보는 특정 사람을 알아볼 수 있는 정보입니다. 이름, 전화번호, 이메일, 주소, 학번, 사번, 얼굴 사진이 대표적입니다. 하나만으로는 애매해 보여도 여러 정보가 합쳐지면 개인을 알아볼 수 있는 경우도 있습니다. 예를 들어 "서울에 사는 17세 학생"은 넓은 정보지만, "서울 ○○고 2학년 3반, 특정 동아리 회장"이면 누구인지 좁혀질 수 있습니다.

AI 도구에 입력한 내용은 서비스 제공자의 서버로 전송될 수 있습니다. 따라서 과제, 회사 문서, 고객 정보, 의료 정보, 상담 내용, 내부 코드, 미공개 연구 자료는 특히 조심해야 합니다. 공개 AI 도구에 넣기 전에는 다음 세 가지를 확인해야 합니다.

이 정보로 누군가를 알아볼 수 있는가?
이 정보를 외부 서비스에 입력할 권한이 나에게 있는가?
꼭 원문을 넣어야 하는가, 아니면 익명화하거나 요약해도 되는가?

익명화는 개인을 알아볼 수 있는 요소를 지우거나 바꾸는 작업입니다. 예를 들어 김민수, 010-1234-5678을 학생 A, 전화번호 삭제로 바꾸는 방식입니다. 완벽한 익명화는 어렵지만, 초보자는 최소한 이름, 연락처, 주소, 학번, 주민등록번호, 계좌번호, 얼굴 사진부터 제거하는 습관을 가져야 합니다.

2. 편향과 차별

편향은 한쪽으로 치우친 판단입니다. AI는 데이터에서 패턴을 배웁니다. 그런데 데이터 자체가 사회의 불균형이나 고정관념을 담고 있으면 AI도 그 영향을 받을 수 있습니다.

예를 들어 채용 AI가 과거 합격자 데이터를 학습했다고 해 봅시다. 과거에 특정 성별, 학교, 지역 출신이 더 많이 뽑혔다면 AI는 그것을 "좋은 지원자의 특징"처럼 오해할 수 있습니다. 이때 문제는 AI가 악의를 가졌다는 뜻이 아닙니다. 과거 데이터의 불공정한 흔적을 미래 판단에 다시 사용하는 것이 문제입니다.

편향을 줄이려면 질문해야 합니다.

이 데이터에는 누가 많이 포함되어 있고, 누가 빠져 있는가?
결과가 특정 성별, 나이, 지역, 장애 여부, 국적, 언어 사용자에게 불리하지 않은가?
평균만 보고 소수 집단의 피해를 놓치고 있지 않은가?
이 결과를 사람 평가, 선발, 징계, 대출, 의료 판단에 바로 사용해도 되는가?

데이터 분석에서 편향은 기술 문제이면서 사회 문제입니다. Python 코드가 오류 없이 실행되어도 분석이 공정하다는 뜻은 아닙니다.

3. 저작권과 표절

저작권은 창작물을 만든 사람의 권리입니다. 글, 그림, 사진, 음악, 코드, 영상, 그래프, 데이터베이스 설명 문서 등은 모두 저작권의 대상이 될 수 있습니다.

표절은 다른 사람의 표현이나 아이디어를 자기 것처럼 사용하는 일입니다. 문장을 그대로 복사하는 것만 표절이 아닙니다. 문장 일부만 바꾸거나, 구조와 논리를 거의 그대로 가져오거나, 출처 없이 아이디어를 사용하는 것도 문제가 될 수 있습니다.

AI를 사용하면 표절 문제가 더 헷갈립니다. AI가 만든 문장은 누가 쓴 것일까요? 과제에서는 보통 이렇게 생각하는 것이 안전합니다.

AI는 도구이고, 최종 제출물의 책임은 제출자에게 있다.

학업 윤리에서 중요한 것은 자신과 자신의 작업을 정직하게 대표하는 것입니다. 다른 사람의 말이나 아이디어를 사용했다면 출처를 밝히고, 데이터도 정확하게 만들고 사용해야 합니다³. AI가 만든 문장이라도 내가 검토하지 않고 제출했다면 내 책임입니다. AI가 가짜 출처를 만들었는데 그대로 넣었다면 그것도 내 책임입니다.

4. AI 사용 공개와 책임 소재

AI 사용 공개는 "잘못했습니다"라고 고백하는 일이 아닙니다. 어떤 도구를 어떤 방식으로 썼는지 보고하는 일입니다. 논문이나 보고서에서 통계 분석에 Python을 썼다고 밝히는 것과 비슷합니다.

최근 학술 글쓰기 가이드에서는 LLM을 사용할 때 세 가지가 중요하다고 강조합니다. 사람이 실질적으로 기여해야 하고, AI가 만든 내용을 정확성 측면에서 검토해야 하며, 사용 사실을 적절히 밝혀야 한다는 것입니다⁴.

학교나 기관마다 규정은 다를 수 있습니다. 어떤 수업은 AI 사용을 허용하고, 어떤 수업은 금지할 수 있습니다. 그래서 가장 먼저 확인할 것은 과제 안내문입니다. 안내가 없다면 담당자에게 물어보는 것이 좋습니다.

기본 원칙은 네 가지입니다.

투명성: AI를 어디에 썼는지 밝힌다.
검증 가능성: 근거 자료와 확인 과정을 남긴다.
저작권 존중: 남의 자료를 함부로 복사하지 않는다.
최종 책임: 제출자 또는 작성자가 결과를 책임진다.

5. 디지털 격차와 환경 비용

AI 윤리는 개인 과제의 정직성에만 머물지 않습니다. 누가 AI를 쓸 수 있고, 누가 쓸 수 없는지도 중요합니다. 유료 도구를 사용할 수 있는 사람과 그렇지 않은 사람 사이에는 결과물 품질의 차이가 생길 수 있습니다. 빠른 인터넷, 좋은 기기, 영어 자료 접근성도 격차를 만듭니다.

또한 AI 서비스는 컴퓨팅 자원을 사용합니다. 큰 모델을 훈련하고 운영하는 데는 전기와 장비가 필요합니다. 초보자가 모든 계산 비용을 정확히 알 필요는 없지만, "AI는 공짜로 무한히 쓰는 마법"이 아니라는 점은 기억해야 합니다. 필요 없는 반복 요청을 줄이고, 목적에 맞게 사용하는 태도도 책임 있는 사용의 일부입니다.

쉬운 비유 또는 사례

AI를 빌린 자전거라고 생각해 봅시다. 자전거를 빌리면 더 빨리 갈 수 있습니다. 하지만 보행자를 치면 "자전거가 그랬다"고 말할 수 없습니다. 브레이크를 확인하고, 도로 규칙을 지키고, 목적지까지 안전하게 가는 책임은 운전자에게 있습니다.

AI도 같습니다. AI가 보고서 초안을 써 주고, Python 오류를 설명해 주고, 그래프 해석을 도와줄 수 있습니다. 하지만 최종 제출 버튼을 누르는 사람은 나입니다.

사례를 보겠습니다.

한 학생이 「미니 프로젝트」에서 학교 주변 카페 리뷰 데이터를 분석했습니다. AI에게 "리뷰를 긍정과 부정으로 나누고 요약해 줘"라고 요청했습니다. 그런데 원본 리뷰에는 작성자의 닉네임, 방문 날짜, 특정 직원 이름이 들어 있었습니다. AI는 그 내용을 요약하면서 "직원 A가 불친절하다는 의견이 많다"고 썼습니다.

이 결과물에는 여러 위험이 있습니다.

리뷰 작성자와 직원의 개인정보가 노출될 수 있습니다.
소수의 리뷰를 전체 평가처럼 일반화할 수 있습니다.
AI의 요약이 실제 리뷰 내용과 다를 수 있습니다.
출처와 수집 기준이 불명확하면 분석을 검증하기 어렵습니다.

수정하려면 이렇게 해야 합니다.

닉네임, 직원명, 구체적 날짜를 제거한다.
"전체 고객이 불만"이 아니라 "수집한 리뷰 중 일부에서 불만 표현이 나타남"처럼 조심스럽게 표현한다.
원본 리뷰 일부를 직접 확인한다.
데이터 출처, 수집일, 수집 범위, AI 사용 내용을 기록한다.

윤리적 사용은 AI를 쓰지 않는 것이 아닙니다. AI를 쓴 과정을 설명할 수 있게 만드는 것입니다.

직접 해보는 실습

이번 실습은 「미니 프로젝트」에서 만든 결과물을 마무리하는 작업입니다. 새 코드를 많이 쓰기보다, 프로젝트의 신뢰성을 높이는 문서를 작성합니다.

실습 1: AI 사용 고지문 작성하기

아래 양식을 채워 보세요.

AI 사용 고지문

1. 사용한 AI 도구:
- 예: ChatGPT, Gemini, Claude, Copilot 등

2. 사용 목적:
- 예: 주제 아이디어 정리, pandas 코드 오류 해결, 그래프 해석 초안 작성, 문장 교정

3. 사용하지 않은 영역:
- 예: 최종 결론 판단, 데이터 조작, 출처 생성, 통계값 임의 작성

4. 주요 프롬프트 요약:
- 예: "결측값 처리 방법을 초보자 수준으로 설명해줘."
- 예: "이 pandas 오류 메시지의 원인을 알려줘."

5. AI가 만든 내용:
- 예: 코드 초안 일부, 보고서 문장 초안, 체크리스트 초안

6. 사람이 직접 수정·검증한 내용:
- 예: 코드 실행 결과 확인, 원자료와 통계값 대조, 출처 링크 접속 확인

7. 최종 책임자:
- 예: 이 보고서의 최종 판단과 오류 책임은 작성자인 나에게 있음.

좋은 고지문은 길 필요가 없습니다. 다만 모호하면 안 됩니다. "AI를 조금 사용했다"보다 "pandas 오류 해결과 문장 교정에 사용했고, 최종 통계값은 직접 코드로 확인했다"가 훨씬 좋습니다.

실습 2: 데이터·출처 카드 작성하기

데이터·출처 카드

1. 데이터 이름:
2. 데이터 출처 URL 또는 제공 기관:
3. 수집일 또는 다운로드 날짜:
4. 데이터의 원래 목적:
5. 주요 변수:
6. 개인정보 포함 여부:
7. 제거하거나 익명화한 항목:
8. 사용한 라이선스 또는 이용 조건:
9. 분석에서 제외한 데이터와 이유:
10. 한계:
11. 참고한 문서 또는 기사:
12. 인용 방식:

이 카드는 프로젝트의 신분증입니다. 데이터가 어디서 왔는지, 어떤 조건으로 썼는지, 무엇을 조심해야 하는지 보여 줍니다. 나중에 누군가가 "이 분석을 믿어도 되나요?"라고 물었을 때, 데이터·출처 카드가 첫 번째 답이 됩니다.

실습 3: 개인정보 제거 연습

다음 문장을 AI에 넣기 전에 수정해 보세요.

김하늘 학생은 2026년 4월 3일 상담에서 010-1111-2222 번호로 연락해 달라고 했고, 서울시 ○○구 ○○아파트에 산다고 말했다.

수정 예시는 다음과 같습니다.

학생 A는 2026년 4월 초 상담에서 연락 요청을 했고, 서울 지역에 거주한다고 말했다. 구체적인 연락처와 주소는 삭제했다.

핵심은 분석에 꼭 필요하지 않은 정보를 빼는 것입니다. AI에게 좋은 답을 얻기 위해 모든 원문을 넣을 필요는 없습니다.

흔한 실수와 오류 분석

실수 1: "AI를 쓰면 무조건 숨겨야 한다"

AI 사용을 숨기면 오히려 문제가 커질 수 있습니다. 허용된 범위에서 사용했다면, 어디에 썼고 어떻게 검증했는지 밝히면 됩니다. 문제는 사용 자체보다 속이는 태도입니다.

실수 2: "AI가 만들었으니 내 책임이 아니다"

AI는 책임을 질 수 없습니다. 과제 점수, 보고서 신뢰도, 프로젝트 오류의 책임은 제출자에게 있습니다. AI가 잘못된 코드를 제안했다면 실행해 보고 고쳐야 합니다. AI가 틀린 통계를 말하면 원자료와 코드로 확인해야 합니다.

실수 3: "AI가 출처를 달았으니 진짜일 것이다"

AI는 그럴듯한 가짜 출처를 만들 수 있습니다. 논문 제목, 저자명, 학술지명, DOI처럼 보이는 문자열도 실제로는 존재하지 않을 수 있습니다. 출처는 반드시 직접 열어 보고 확인해야 합니다. 링크가 열리는지, 제목과 저자가 맞는지, 본문 내용이 내 주장과 연결되는지 확인하세요.

실수 4: "공개 데이터는 마음대로 써도 된다"

공개되어 있다는 말은 무제한 사용 가능하다는 뜻이 아닙니다. 라이선스, 이용 약관, 재배포 가능 여부, 상업적 이용 가능 여부가 다를 수 있습니다. 특히 사람과 관련된 데이터는 공개 데이터라도 재식별 위험이 있습니다.

실수 5: "평균이 같으면 공정하다"

전체 평균이 비슷해도 특정 집단에는 불리할 수 있습니다. 예를 들어 전체 정확도가 90%인 모델이 어떤 집단에서는 70%만 맞힌다면 문제가 됩니다. 공정성은 전체 성능만으로 판단하지 않습니다.

실수 6: "AI 탐지기에 걸리지 않으면 괜찮다"

AI 탐지기는 완벽하지 않습니다. 중요한 기준은 탐지 여부가 아니라 정직성입니다. 수업이나 기관의 규칙을 확인하고, 허용된 범위 안에서 사용하고, 사용 내용을 설명할 수 있어야 합니다. 실제 교육 연구에서도 LLM 오용은 학생의 악의만이 아니라 모호한 과제 안내와 평가 설계와도 관련이 있다고 보고됩니다⁵. 그래서 학습자는 스스로 확인하고, 교사는 기대 기준을 분명히 안내해야 합니다.

요약

AI 윤리는 AI를 쓰지 말라는 말이 아닙니다. 더 잘 쓰기 위한 기준입니다.

이번 장의 핵심은 다음과 같습니다.

개인정보는 AI에 입력하기 전에 삭제, 익명화, 요약을 먼저 고려한다.
데이터에는 편향이 있을 수 있으며, 분석 결과가 특정 집단에 불리하지 않은지 확인한다.
AI가 만든 답변, 코드, 문장, 출처는 사람이 직접 검증해야 한다.
AI 사용 공개는 부끄러운 고백이 아니라 투명한 작업 기록이다.
프로젝트에는 데이터·출처 카드와 AI 사용 고지문을 함께 남기는 것이 좋다.

이 책에서 배운 Python과 데이터 분석 능력은 강력한 도구입니다. 하지만 도구의 힘은 사용하는 사람의 태도와 함께 평가됩니다. 빠르게 만드는 능력은 실력의 일부입니다. 정직하고 책임 있게 사용하는 태도가 그 실력을 완성합니다.

퀴즈

다음 중 AI 도구에 그대로 입력하면 가장 위험한 것은 무엇인가요?
- A. 공개된 기상청 일별 기온 데이터
- B. 이름과 전화번호가 포함된 상담 기록
- C. 직접 만든 가상의 쇼핑몰 데이터
- D. 교과서 개념을 요약한 질문
AI가 제시한 출처를 검증하는 올바른 방법은 무엇인가요?
- A. 출처 형식이 그럴듯하면 사용한다.
- B. AI가 자신 있다고 말하면 믿는다.
- C. 링크나 원문을 열어 제목, 저자, 내용이 맞는지 확인한다.
- D. 참고문헌 목록에만 넣고 본문에서는 확인하지 않는다.
"AI가 쓴 문장이므로 나는 책임이 없다"는 말이 왜 틀렸나요?
공개 데이터 사용 시 확인해야 할 사항을 두 가지 쓰세요.
AI 사용 고지문에 포함하면 좋은 내용을 세 가지 쓰세요.

정답 예시: 1-B, 2-C. 3번은 최종 제출자가 결과물의 정확성, 출처, 윤리적 문제를 책임져야 하기 때문입니다. 4번은 라이선스, 이용 조건, 개인정보 포함 여부, 재식별 위험 등이 가능합니다. 5번은 사용 도구, 사용 목적, 프롬프트 요약, AI가 만든 내용, 사람이 검증한 내용, 최종 책임자 등이 가능합니다.