안전하고 책임 있게 AI 쓰기

안전한 AI 사용은 속도를 늦추는 일이 아니다

AI를 잘 쓰는 사람은 빠른 답을 얻는 데서 멈추지 않는다. 무엇을 넣으면 안 되는지, 어떤 답은 검증해야 하는지, 어디까지 사람이 책임져야 하는지를 함께 생각한다. 책임 있는 AI 사용의 핵심에는 개인정보와 보안, 투명성, 책임성, 신뢰성 같은 원칙이 포함된다.¹

프롬프트는 AI에게 보내는 작업 지시서다. 그래서 입력한 정보가 외부 서비스로 전달될 수 있다는 전제로 다루어야 한다. 특히 회사 업무, 고객 정보, 계약 자료, 의료·법률·투자 판단처럼 민감한 영역에서는 "AI가 알아서 안전하게 처리하겠지"라고 생각하면 안 된다.

이 장의 목표는 겁을 주는 것이 아니다. 안전하게 쓰는 기준을 세워 더 오래, 더 넓게 AI를 활용하기 위한 실전 원칙을 정리하는 것이다.

AI 생성 이미지

1. 프롬프트에 넣으면 안 되는 정보부터 구분하기

언제 쓰는가

회의록 요약, 고객 리뷰 분석, 계약서 검토, 코드 자동화, 인사 평가 자료 정리처럼 실제 데이터를 AI에 넣고 싶을 때 먼저 확인해야 한다.

가장 쉬운 기준은 데이터를 세 단계로 나누는 것이다.

조직에서는 데이터를 공개, 내부, 민감, 고위험처럼 분류하고, 필요한 최소한의 정보만 AI에 공유하는 방식이 권장된다.²

그대로 쓰는 프롬프트

아래 작업을 AI로 처리해도 되는지 먼저 판단해줘.

[작업 목적]: [예: 고객 문의 100건을 주제별로 분류]
[입력하려는 데이터]: [예: 문의 내용, 고객 이름, 이메일, 주문번호 포함]
[사용 도구]: [예: 회사 승인 AI 도구 / 개인 계정 AI 도구]

다음 기준으로 답해줘.
1. 입력하면 안 되는 정보가 있는지
2. 삭제하거나 가명 처리해야 할 정보
3. 실제 데이터 대신 샘플 데이터로 바꿀 수 있는 부분
4. 안전하게 처리하기 위한 수정된 프롬프트
5. 그래도 사람이나 보안 담당자에게 확인해야 할 사항

더 잘 쓰는 팁

실제 데이터를 넣기 전에 "익명화"와 "최소 입력"을 먼저 적용한다. 익명화는 개인을 알아볼 수 있는 정보를 지우거나 바꾸는 것이다. 최소 입력은 작업에 꼭 필요한 정보만 남기는 것이다.

예를 들어 고객 문의를 분류할 때 고객 이름, 전화번호, 주문번호는 필요 없는 경우가 많다. 이런 정보는 삭제하고 문의 내용만 남겨도 충분하다.

나쁜 입력은 다음과 같다.

아래 고객 목록을 분석해서 VIP 고객을 골라줘.
이름, 전화번호, 주소, 구매금액, 불만 내용은 다음과 같아...

더 안전한 입력은 이렇게 바꾼다.

아래는 개인 식별 정보를 제거한 고객 문의 예시야.
문의 내용을 주제별로 분류하고, 반복되는 불만과 개선 우선순위를 정리해줘.
고객을 특정할 수 있는 정보는 추정하지 마.

응용 방식

팀에서 자주 쓰는 프롬프트에는 "입력 금지 정보"를 고정 문장으로 넣어둔다.

주의: 이 프롬프트에는 개인정보, 고객 식별 정보, 비밀번호, API 키, 계약상 비밀 정보, 미공개 재무 정보를 입력하지 않는다. 필요한 경우 가명 처리된 샘플 데이터만 사용한다.

이 한 문장은 실수를 크게 줄인다.

2. 사실 확인은 출처·날짜·근거를 같이 요구한다

언제 쓰는가

시장 규모, 법령, 통계, 정책, 제품 사양, 최신 뉴스, 연구 결과처럼 틀리면 문제가 되는 정보를 다룰 때 사용한다. AI는 그럴듯한 문장으로 틀린 정보를 말할 수 있다. 그래서 답변을 받을 때부터 검증 가능한 형태로 요청해야 한다.

그대로 쓰는 프롬프트

[주제]에 대해 설명해줘.
단, 아래 형식으로 검증 가능하게 정리해줘.

1. 핵심 요약
2. 사실 주장 목록
   - 주장
   - 근거 또는 출처 후보
   - 기준 날짜
   - 확인해야 할 원문 링크 또는 검색어
   - 확실함 / 확인 필요 / 불확실 표시
3. 의견이나 해석은 사실과 분리
4. 최신 정보가 필요하면 "최신 확인 필요"라고 표시
5. 출처가 없거나 불명확한 내용은 단정하지 말 것

이미 AI가 만든 답변을 검토할 때는 이렇게 요청한다.

아래 답변을 사실 검증 관점에서 점검해줘.

[AI 답변 붙여넣기]

다음 표로 정리해줘.
- 검증할 주장
- 왜 중요한지
- 확인할 공식 출처 또는 신뢰 가능한 출처
- 현재 답변에서 위험한 표현
- 더 안전한 수정 문장

더 잘 쓰는 팁

출처를 요구했다고 해서 끝이 아니다. AI가 존재하지 않는 링크나 부정확한 출처명을 만들 수 있다. 중요한 문서라면 링크를 직접 열어 확인하고, 날짜를 확인하고, 원문 표현을 다시 읽어야 한다.

특히 다음 표현이 나오면 멈춰서 검토한다.

• "최근 연구에 따르면"인데 연구명이 없다.

• "대부분의 전문가들은"인데 누구인지 없다.

• "법적으로 문제없다"처럼 단정한다.

• "확실히 상승한다"처럼 미래를 보장한다.

• 숫자는 있는데 기준 기간과 분모가 없다.

응용 방식

보고서나 제안서에 AI 답변을 활용했다면 문서 끝에 "검증 필요 항목"을 따로 남겨둔다.

이 문서에서 사람이 추가로 확인해야 할 항목만 뽑아줘.
법령, 통계, 외부 시장자료, 경쟁사 정보, 비용 추정, 일정 추정으로 나누어 정리해줘.

이렇게 하면 AI 답변이 최종 결론이 아니라 검토 가능한 초안이 된다.

3. 저작권은 "그대로"보다 "새롭게"가 안전하다

언제 쓰는가

블로그 글, 광고 문구, 이미지, 영상 대본, 디자인 콘셉트, 교육 자료를 만들 때 사용한다. AI와 저작권의 관계는 국가와 상황에 따라 다르게 해석될 수 있고, AI 생성물의 보호 범위나 학습 데이터 사용 문제도 계속 논의되고 있다.³ 그래서 실무에서는 보수적으로 접근하는 편이 안전하다.

피해야 할 요청은 다음과 같다.

이 작가의 문체를 그대로 따라 써줘.
이 유료 강의 자료를 거의 똑같이 요약해서 교재로 만들어줘.
이 브랜드 광고 문구와 비슷하게 베껴서 우리 제품에 맞춰줘.
이 기사 내용을 문장만 살짝 바꿔서 블로그 글로 만들어줘.

이런 요청은 특정 창작자의 표현, 유료 자료, 브랜드 자산을 복제하는 방향으로 흐르기 쉽다.

그대로 쓰는 프롬프트

[참고 자료]의 핵심 아이디어만 참고해서 새로운 글을 작성해줘.
단, 원문의 문장 구조, 표현, 제목, 비유, 독특한 문체를 따라 하지 마.

[목적]: [예: 초보자를 위한 안내 글]
[대상]: [예: AI 입문자]
[분량]: [예: 1,000자]
[원하는 톤]: [예: 친절하고 실용적인 톤]
[반드시 지킬 점]:
1. 원문 문장을 그대로 사용하지 않기
2. 특정 작가나 브랜드의 고유한 문체를 모방하지 않기
3. 새로운 예시와 구조로 설명하기
4. 필요한 경우 출처 표시가 필요한 부분을 알려주기

문체를 요청할 때도 특정 작가 이름보다 특징을 설명한다.

전문 용어를 줄이고, 짧은 문장과 구체적인 예시를 사용해줘.
과장된 표현은 피하고, 실무자가 바로 따라 할 수 있는 설명문으로 작성해줘.

더 잘 쓰는 팁

저작권 문제를 피하려면 "누구처럼"보다 "어떤 특징으로"라고 말한다.

• "OO 작가처럼" → "짧은 문장, 일상적 비유, 담백한 설명"

• "OO 브랜드처럼" → "명확한 혜택, 간결한 문장, 신뢰감 있는 톤"

• "이 글을 베껴서" → "핵심 주제를 바탕으로 다른 구조와 새 예시로"

자료를 요약할 때도 내부 공유용인지, 외부 공개용인지 구분해야 한다. 외부 공개 자료라면 원문 출처를 표시하고, 그대로 복제한 표·이미지·문장은 사용하지 않는 것이 안전하다.

4. 의료·법률·투자는 전문가 검토가 필요한 영역이다

언제 쓰는가

건강 증상, 계약서, 세금, 소송, 보험, 주식, 부동산, 가상자산, 연금 같은 문제를 AI에게 물어볼 때 사용한다. 이런 영역에서는 AI를 결론을 내려주는 전문가로 쓰면 위험하다. 대신 상담 전 정리 도구로 쓰는 것이 좋다.

AI에게 맡겨도 되는 일은 다음과 같다.

• 어려운 용어를 쉽게 설명하게 하기

• 의사나 변호사에게 물어볼 질문 목록 만들기

• 계약서에서 확인해야 할 조항 후보 정리하기

• 투자 상품의 일반적인 위험 요소 정리하기

• 상담 내용을 기록하고 비교표로 정리하기

맡기면 안 되는 일은 다음과 같다.

• 병명 확정

• 약 복용 여부 결정

• 소송 가능성 단정

• 세금 신고 방식 확정

• 특정 종목 매수·매도 지시

• 계약서에 서명해도 된다는 최종 판단

그대로 쓰는 프롬프트

너는 전문가 상담 전 준비를 돕는 정리 도우미야.
아래 내용을 바탕으로 일반적인 정보와 질문 목록만 정리해줘.
진단, 법률 판단, 투자 결정처럼 최종 결론은 내리지 마.

[상황]: [현재 상황 설명]
[내가 궁금한 점]: [질문]
[관련 자료]: [개인정보를 제거한 내용]

다음 형식으로 답해줘.
1. 내가 이해한 상황 요약
2. 일반적으로 확인해야 할 쟁점
3. 전문가에게 물어볼 질문 목록
4. 추가로 준비하면 좋은 자료
5. AI 답변만으로 결정하면 안 되는 이유

더 잘 쓰는 팁

이 영역에서는 "확률이 높다", "문제없다", "무조건 좋다" 같은 단정 표현을 경계한다. AI 답변은 상담 전 생각을 정리하는 메모로만 사용한다. 실제 결정은 자격 있는 전문가, 공식 기관, 최신 법령, 본인의 상황을 종합해 내려야 한다.

5. 팀에서 공통 AI 사용 규칙을 만든다

언제 쓰는가

개인 사용을 넘어 팀원이 함께 AI를 쓰기 시작하면 규칙이 필요하다. 같은 회사 안에서도 누구는 고객 정보를 넣고, 누구는 개인 계정으로 내부 문서를 요약하고, 누구는 AI가 만든 문구를 검토 없이 배포할 수 있다. 이런 차이를 줄여야 한다.

NIST의 AI 위험관리 프레임워크도 AI 시스템의 설계, 사용, 평가 과정에서 신뢰할 수 있는 사용을 고려하도록 돕는 틀을 제시한다.⁴ 팀 규칙은 거창할 필요가 없다. 자주 쓰는 업무부터 짧게 시작하면 된다.

그대로 쓰는 팀 규칙 템플릿

우리 팀 AI 사용 규칙 초안을 만들어줘.

[팀 업무]: [예: 마케팅 콘텐츠 제작, 고객 문의 분석]
[사용 가능한 AI 도구]: [도구명]
[다루는 데이터]: [예: 공개 자료, 고객 문의, 매출표]
[외부 공개 산출물]: [예: 블로그, 광고 문구, 제안서]

다음 항목을 포함해줘.
1. 사용 가능한 업무
2. 사용 금지 업무
3. 입력하면 안 되는 정보
4. 익명화 또는 샘플 데이터 사용 기준
5. AI 결과물 검토 책임자
6. 사실 확인이 필요한 경우
7. 저작권·출처 표시 기준
8. 문제가 생겼을 때 보고 절차
9. 팀 프롬프트 공유 양식

팀 프롬프트를 공유할 때는 아래 항목을 함께 기록한다.

더 잘 쓰는 팁

팀 규칙에는 "AI 사용 사실을 언제 밝혀야 하는가"도 포함한다. 외부 보고서, 고객에게 전달되는 문서, 채용·평가·심사와 관련된 자료에서는 AI 사용 여부와 사람의 검토 여부를 명확히 남기는 편이 좋다.

또한 승인된 도구와 개인 계정을 구분해야 한다. 회사 자료를 개인용 AI 계정에 넣지 않는다는 원칙만 있어도 큰 사고를 줄일 수 있다.

마지막 점검 체크리스트

AI에 프롬프트를 보내기 전, 아래 다섯 가지를 확인한다.

• 이 입력문에 개인정보나 회사 기밀이 들어 있지 않은가?

• 꼭 필요한 정보만 넣었는가?

• AI 답변에서 사실, 의견, 추론을 구분할 수 있는가?

• 저작권이 있는 표현이나 특정 창작자의 문체를 그대로 따라 하라고 요청하지 않았는가?

• 이 결과를 그대로 사용해도 되는지, 사람이 검토해야 하는 영역인지 구분했는가?

안전한 AI 사용은 AI를 덜 쓰자는 뜻이 아니다. 더 오래, 더 신뢰할 수 있게 쓰자는 뜻이다. 좋은 프롬프트는 원하는 결과를 빠르게 얻는 문장인 동시에, 입력 정보와 출력 결과에 대한 책임을 분명히 하는 문장이다.

참고

¹Responsible AI: Ethical policies and practices | Microsoft AI

²AI Guidelines for Safe Use

³Copyright and Artificial Intelligence | U.S. Copyright Office

⁴AI Risk Management Framework | NIST