5부 15장. 보안과 컴플라이언스

AI를 오래 쓰는 사람은 대개 두 부류로 갈린다. 하나는 매일 많이 쓰는 사람이고, 다른 하나는 사고 없이 쓰는 사람이다. 진짜 오래 가는 쪽은 늘 후자다. Claude는 실무를 빠르게 밀어주는 강력한 도구다. 하지만 강력한 도구일수록 질문 하나, 파일 하나, 공유 설정 하나가 곧 리스크가 된다. 보고서 초안을 잘 쓰는 것만으로는 부족하다. 어떤 정보까지 넣어도 되는지, 어떤 결과는 반드시 사람이 다시 봐야 하는지, 로그와 권한은 어떻게 관리해야 하는지까지 함께 알아야 한다. 이 장의 목표는 간단하다. Claude를 겁내지 않되, 만만하게도 보지 않게 만드는 것이다.

오래 쓰는 사람의 기준

보안과 컴플라이언스는 IT팀만의 일이 아니다. 현업 실무자에게는 더 현실적인 문제다. 인사팀은 지원자 이력서를 다루고, 영업팀은 고객사 제안서를 다루며, 운영팀은 계약과 정산 자료를 다룬다. 이때 AI를 쓴다는 건 단순히 채팅창을 여는 일이 아니라, 회사 문서를 외부 시스템과 만나게 하는 행위다.

특히 기업용 Claude를 도입하면 조직 차원의 통제 기능을 붙일 수 있다. Anthropic은 엔터프라이즈 환경에서 SSO, SCIM, 감사 로그, 역할 기반 권한, 데이터 보존 제어 같은 관리 기능을 제공한다.¹ 이 말은 곧, 개인의 편의만으로 AI를 쓰면 안 된다는 뜻이기도 하다. 실무자는 "되는가"보다 먼저 "우리 조직에서 허용되는 방식인가"를 확인해야 한다.

이 장에서 기억해야 할 원칙은 세 가지다.

• 회사 업무는 가능하면 회사 계정과 조직 통제 환경에서 처리한다.

• 민감한 정보는 원문 그대로 넣기보다 최소화·가명처리·발췌를 먼저 검토한다.

• 발송, 공유, 삭제, 승인처럼 되돌리기 어려운 행동은 사람이 마지막에 확인한다.

이 세 줄만 지켜도 사고 확률은 크게 줄어든다.

먼저 계정부터 분리하라

실무에서 가장 흔한 실수는 어렵지 않다. 회사 일을 개인 계정으로 해버리는 것이다. 급해서, 편해서, 로그인되어 있어서 그렇게 한다. 하지만 이 습관은 나중에 관리가 거의 되지 않는다. 누가 무슨 파일을 올렸는지 추적하기 어렵고, 퇴사 뒤에도 자료가 개인 계정에 남을 수 있으며, 조직 정책과 충돌해도 통제하기 어렵다.

그래서 원칙은 분명하다. 회사 업무는 회사 계정으로 한다. 가능하다면 SSO가 붙은 조직 계정 환경에서 하고, 관리자 입장에서 사용자 생성·회수·권한 부여가 가능한 구조를 갖추는 편이 좋다.¹ 섀도우 AI 문제는 대개 거창한 해킹이 아니라 이런 작은 편의주의에서 시작된다.

현업 실무자 기준으로는 아래처럼 이해하면 쉽다.

• 개인 계정: 빠른 실험이나 개인 학습에는 편하지만, 회사 통제와 감사가 어렵다.

• 팀·엔터프라이즈 계정: 다소 절차는 늘지만, 권한·로그·정책 관리가 가능하다.

• API 조직 계정: 시스템 연동과 자동화에 적합하지만, 별도의 키 관리와 호출 통제가 필요하다.

즉, "어디서 쓰느냐"는 편의의 문제가 아니라 거버넌스의 문제다.

입력 전에 데이터 등급을 나눠라

보안 실수는 대개 입력 전에 이미 결정된다. 무엇을 넣어도 되는지 기준이 없으면, 사람은 바쁜 순간에 가장 쉬운 길을 택한다. 그래서 실무에서는 업로드 전 분류가 먼저다.

가장 단순하게는 다음 네 단계만 나눠도 충분하다.

중요한 것은 완벽한 분류 체계를 만드는 일이 아니다. 입력 전에 한 번 멈추는 습관을 만드는 일이다. 파일을 넣기 전에 "이 문서는 어느 등급인가?"만 물어도 사고가 많이 줄어든다.

원문보다 최소화가 먼저다

많은 사람이 보안을 "넣지 말아야 할 것의 목록"으로만 이해한다. 물론 그것도 중요하다. 하지만 실무에서는 더 유용한 기준이 있다. 정말 원문 전체가 필요한가?를 먼저 묻는 것이다.

예를 들어 채용 지원서 20개를 비교해야 한다고 해 보자. 이때 굳이 이름, 연락처, 상세 주소까지 넣을 필요는 없다. 직무, 경력 연차, 핵심 경험, 포트폴리오 유형 정도만 남겨도 1차 정리는 충분히 가능하다. 고객 VOC를 분석할 때도 마찬가지다. 고객 이름과 전화번호는 빼고, 이슈 유형·불만 맥락·해결 상태만 남겨도 인사이트는 뽑을 수 있다.

실무에서는 보통 아래 순서가 가장 안전하다.

1. 원문 전체가 정말 필요한지 묻는다.

2. 필요한 항목만 발췌한다.

3. 이름·연락처·식별자는 가명처리하거나 제거한다.

4. 그래도 민감하면 조직 정책에 따라 별도 승인 후 진행한다.

개인정보보호위원회가 2025년에 공개한 생성형 AI 개인정보 처리 안내서도 목적 설정, 최소 수집, 단계별 안전조치, 권리 보장 같은 원칙을 강조한다.² 책 한 권 외울 필요는 없다. 실무자는 "적게 넣고, 덜 식별되게 만들고, 넣은 이유를 설명할 수 있는가"만 기억해도 좋다.

기업용 기능을 만능 방패로 착각하지 마라

여기서 자주 생기는 오해가 있다. "엔터프라이즈니까 괜찮다"는 생각이다. 물론 조직용 플랜은 개인 계정보다 훨씬 낫다. 관리 기능이 있고, 권한 체계도 있고, 감사 로그도 남길 수 있다.¹ 하지만 그 자체가 모든 입력을 자동으로 정당화해 주는 것은 아니다.

예를 들어 데이터 보존을 줄이는 옵션이나 추가적인 계약상 보호 장치는 상황에 따라 제공 범위가 다를 수 있다. 특히 Zero Data Retention 같은 표현은 모든 사용 표면에 자동으로 적용되는 기본값처럼 이해하면 곤란하다. 일반적으로는 특정 계약, 특정 API 사용 방식, 특정 조직 설정과 연결해서 봐야 한다.³ 따라서 실무자는 "엔터프라이즈라서 무조건 안전하다"가 아니라, "우리 조직이 어떤 설정과 계약으로 운영 중인가"를 확인해야 한다.

한 줄로 정리하면 이렇다.

기능이 보안을 대신해 주지는 않는다. 기능은 보안을 운영할 수 있게 도와줄 뿐이다.

환각은 모델 문제가 아니라 운영 문제다

실무자가 가장 자주 겪는 위험은 정보 유출만이 아니다. 틀린 내용을 그럴듯하게 믿는 일도 매우 흔하다. 환각은 AI가 가끔 헛소리하는 현상으로만 보면 대응이 느슨해진다. 실무에서는 이렇게 보는 편이 더 낫다.

환각은 단순한 생성 오류가 아니라, 검증 절차가 빠진 운영 실패다.

이 관점이 중요하다. 왜냐하면 대응이 달라지기 때문이다. "틀릴 수도 있으니 조심하자" 수준에서 끝나지 않고, 아예 검증 흐름을 일에 붙이게 되기 때문이다.

특히 아래 항목은 사람이 반드시 다시 봐야 한다.

• 숫자, 비율, 날짜, 금액

• 법률·세무·노무 판단이 들어가는 문장

• 고객사명, 제품명, 고유명사

• 외부 발송 메일, 대외 발표 문안

• 평가·징계·채용처럼 개인에게 영향을 주는 문서

가장 실용적인 방식은 추출 → 요약 → 검증으로 나누는 것이다. 먼저 원문에서 근거 문장을 뽑게 하고, 다음에 그 근거를 바탕으로 요약하게 하며, 마지막에 사람 기준으로 숫자·고유명사·결론을 대조한다. 이 순서만 지켜도 "그럴듯하지만 틀린 답"에 속을 확률이 줄어든다.⁴

되돌리기 어려운 행동은 반드시 사람이 승인하라

에이전틱 AI가 강해질수록 더 중요해지는 원칙이 있다. 읽기와 정리는 넓게 맡겨도, 확정과 실행은 좁게 관리하라는 것이다.

예를 들어 이런 일은 AI에게 비교적 넓게 맡길 수 있다.

• 긴 문서 요약

• 회의록 정리

• 이슈 분류

• 초안 작성

• 비교표 생성

반면 아래 일은 사람이 마지막 승인권을 가져야 한다.

• 메일 발송

• 외부 공유 링크 생성

• 일정 확정 및 변경

• 계약 문구 확정

• 파일 삭제 및 시스템 수정

• 인사 판단이나 고객 약속 확정

Connectors, Cowork, API 자동화처럼 실행력이 강한 기능을 붙일수록 이 원칙은 더 중요해진다. Claude가 읽고, 찾고, 정리하고, 초안을 만드는 데까지는 생산성이 크게 오른다. 하지만 누군가에게 실제 영향을 미치는 최종 버튼은 여전히 사람이 눌러야 한다.⁵

팀에서 바로 쓸 수 있는 최소 운영 규칙

회사에서 AI 활용을 빠르게 확산하려 할 때, 너무 거창한 규정을 먼저 만들면 현업은 잘 안 따른다. 반대로 아무 기준 없이 열어두면 사고가 난다. 그래서 초반에는 아래 정도의 최소 규칙이 가장 현실적이다.

1. 계정 규칙

• 회사 일은 회사 승인 계정에서만 처리한다.

• 퇴사·이동 시 접근 권한을 즉시 회수한다.

• 개인 계정으로 회사 파일을 업로드하지 않는다.

2. 데이터 규칙

• 개인정보와 고위험 정보는 원문 입력을 피한다.

• 반드시 필요한 경우 먼저 가명처리·마스킹을 검토한다.

• 업로드 전 문서 등급을 확인한다.

3. 산출물 규칙

• AI 결과물은 초안으로 간주한다.

• 숫자·법률·대외 문구는 사람이 검수한다.

• 근거 없는 단정 표현은 줄이고, 불확실하면 표시한다.

4. 실행 규칙

• 발송·삭제·공유·승인은 사람이 최종 결정한다.

• 자동화는 되돌리기 쉬운 단계부터 시작한다.

• 실행 로그와 변경 이력을 남길 수 있는 방식으로 운영한다.

이 정도만 지켜도 "무조건 금지"와 "아무나 아무렇게나 사용" 사이에서 훨씬 현실적인 균형점을 만들 수 있다.

한국 개인정보 이슈는 법조문 암기보다 흐름이 중요하다

한국 실무자가 특히 부담을 느끼는 부분은 개인정보다. 하지만 현업이 매번 법조문을 외워야 하는 것은 아니다. 실제로 중요한 것은 흐름이다.

• 목적이 분명한가

• 지금 넣는 정보가 그 목적에 비해 과하지 않은가

• 다른 방식으로도 같은 일을 할 수 있지 않은가

• 정보주체 권리와 내부 기록을 설명할 수 있는가

• 문제가 생겼을 때 추적과 대응이 가능한가

PIPC의 2025년 안내서도 생성형 AI 활용을 목적 설정, 전략 수립, 학습·개발, 적용·관리의 단계로 나눠 안전조치를 제시한다.² 이걸 실무 언어로 바꾸면, "처음부터 개인정보를 마구 집어넣지 말고, 목적과 범위와 보호조치를 먼저 정하라"는 뜻이다. 어렵게 들리지만 결국 좋은 운영 습관의 문제다.

보안은 생산성을 늦추는 장치가 아니라 오래 가게 하는 장치다

보안과 컴플라이언스를 이야기하면, 많은 사람이 속도가 느려질까 걱정한다. 실제로 초반에는 조금 번거롭다. 계정을 분리해야 하고, 입력 전에 한 번 더 보고, 검수 단계를 남겨야 한다. 하지만 장기적으로 보면 이쪽이 더 빠르다. 사고가 나면 한 번에 모든 것이 멈추기 때문이다.

AI를 조직에 뿌리내리게 만드는 사람은 가장 과감한 사람이 아니다. 가장 오래, 반복 가능하게 쓰는 사람이다. 그 사람은 신기한 데모보다 운영 기준을 먼저 만든다. 무엇을 넣어도 되는지, 누가 승인하는지, 어떤 결과는 다시 확인해야 하는지, 로그는 어디에 남는지를 먼저 정한다. 그러면 AI는 위험한 지름길이 아니라, 신뢰 가능한 작업 시스템이 된다.

이 장의 결론은 단순하다.

AI를 안전하게 쓰는 사람은 조심만 하는 사람이 아니다. 경계선을 알고, 그 안에서 꾸준히 속도를 내는 사람이다.

Claude를 오래 쓰고 싶다면, 잘 시키는 법만큼이나 안전하게 운영하는 법도 함께 익혀야 한다. 그것이 결국 가장 실무적인 경쟁력이다.

참고

¹Enterprise plan | Claude by Anthropic

²개인정보보호위원회, 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」 관련 보도자료(2025-08-06)

³Security and compliance | Claude Help Center

⁴Anthropic, Claude Help Center / Enterprise security & compliance resources

⁵Connect Claude to your favorite apps