AI 보안은 더 이상 “모델을 안전하게 배포했는가”만의 문제가 아닙니다. 데이터, 권한, 에이전트, 프롬프트, 운영 로그까지 함께 관리해야 하는 경영 리스크가 됐습니다.
Google Cloud COO 프랜시스 드수자가 강조한 메시지도 이 지점에 있습니다. AI 전략에는 데이터 전략과 보안 전략이 함께 있어야 합니다. 특히 직원이 회사 승인 없이 AI 도구를 사용하는 ‘섀도 AI’는 통제 밖 데이터 유출과 규정 위반으로 이어질 수 있습니다.
AI 보안은 모델이 아니라 스택 전체를 다루는 일이다
Google Cloud의 보안 모범 사례는 워크로드와 지원 서비스에 보안 기능을 구현하기 위한 지침입니다. 금융 서비스 등 기존 산업의 규제·보안 관행을 대체하기보다 보완하는 Google 주도 가이드이며, CISO, 보안 실무자, 리스크·컴플라이언스 담당자를 주요 대상으로 합니다. NIST 800-53 및 Cyber Risk Institute 프레임워크 요구사항과도 정렬됩니다.1
핵심은 보안 통제가 AI 스택의 여러 계층에 걸쳐 설계된다는 점입니다. Google Cloud의 보안 엔터프라이즈 기반 계층은 인증, 접근 관리, 조직, 네트워킹, 키 관리, 비밀 관리, 로깅, 모니터링, 알림, 보안 분석, 에이전트 운영을 포함합니다. AI 인프라 계층은 컨테이너, 컴퓨트, TPU를 대상으로 하고, 연구·모델 계층은 모델 개발과 능동적 모델 보호를 다룹니다.1
따라서 AI 보안은 모델 하나를 잠그는 일이 아닙니다. 누가 어떤 데이터에 접근하는지, 학습용 데이터 파이프라인이 어떻게 보호되는지, 에이전트가 어떤 권한으로 행동하는지, 프롬프트와 응답이 어떤 위험을 만드는지까지 추적하고 통제하는 일입니다.
섀도 AI와 에이전트가 위험의 경계를 넓힌다
섀도 AI는 직원이 승인되지 않은 AI 도구에 업무 데이터를 입력하는 상황을 말합니다. 개인에게는 생산성 향상처럼 보일 수 있지만, 기업 입장에서는 데이터가 어디로 이동했는지, 어떤 정책을 위반했는지, 이후 어떤 모델이나 서비스에 남는지 확인하기 어려워집니다.
에이전트형 AI는 위험의 형태를 한 단계 더 바꿉니다. 단순히 답변을 생성하는 것을 넘어 권한을 가지고 작업을 수행할 수 있기 때문입니다. 그래서 AI 보안의 대상은 모델과 학습용 데이터 파이프라인뿐 아니라 에이전트와 프롬프트까지 포함해야 합니다.
Google Cloud는 Security Command Center가 섀도 AI를 포함한 AI 자산을 파악하고, AI 스택의 위험과 위협을 통합적으로 관리할 수 있다고 설명합니다.2 Model Armor는 프롬프트 인젝션, 탈옥, 데이터 손실, 악성 URL 등을 검사해 모델 입력과 응답, 에이전트 상호작용을 보호합니다.2
공격 속도는 빨라졌고, 대응 방식도 바뀌어야 한다
AI 시대의 보안에서 중요한 변화는 속도입니다. 드수자는 초기 침해부터 공격의 다음 단계까지 걸리는 시간이 8시간에서 22초로 줄었다고 말했습니다. 사람이 경보를 읽고, 회의하고, 수동으로 조치하는 방식만으로는 따라가기 어렵습니다.
방어 측도 자동화와 AI 지원 분석을 활용해야 합니다. Google Cloud는 Gemini 기반 조사 에이전트가 30분 걸리던 수동 작업을 1분 자동 작업으로 줄였다고 밝혔습니다.3 이는 보안팀을 대체한다는 의미가 아니라, 보안팀이 더 빠르게 우선순위를 정하고 대응할 수 있어야 한다는 의미에 가깝습니다.
여기서 Google Cloud의 ‘공유 운명(shared fate)’ 모델도 중요합니다. 이 모델은 보안을 고객에게만 떠넘기는 방식이 아니라 배포, 운영, 리스크 이전을 포함하는 접근으로 설명됩니다.1 AI 워크로드를 클라우드에서 운영한다면, 기업은 클라우드 제공자의 보안 기능을 이해하고 자신의 운영 책임과 연결해야 합니다.
이사회가 확인해야 할 세 가지 질문
이사회가 모든 기술 세부사항을 알아야 하는 것은 아닙니다. 그러나 AI와 보안의 언어를 함께 이해해야 합니다. Google Cloud는 이사회와 보안팀이 AI를 어떻게 보호할지, AI를 방어에 어떻게 활용할지, 이것이 비즈니스 성과에 어떤 영향을 주는지 함께 봐야 한다고 말합니다.4
실무적으로는 세 가지 질문이 출발점입니다.
승인된 AI 사용 경로가 있는가?
직원들이 업무에 AI를 안전하게 쓸 수 있는 공식 도구와 정책이 없다면 섀도 AI가 늘어날 가능성이 큽니다.데이터·모델·에이전트 권한이 추적되는가?
AI 보안은 접근 관리, 로깅, 모니터링, 키·비밀 관리, 에이전트 운영까지 연결되어야 합니다.사고 대응과 보안 투자가 비즈니스 리스크 기준으로 설명되는가?
보안팀의 활동이 기술 지표에만 머물지 않고, 데이터 유출, 서비스 중단, 규제 리스크, 고객 신뢰와 연결되어야 합니다.
AI 보안의 핵심은 단순히 “막는 것”이 아닙니다. 무엇이 쓰이고 있는지 보이게 하고, 적절한 권한과 정책으로 통제하며, 공격 속도에 맞춰 빠르게 대응하는 것입니다. Google Cloud AI security 논의가 이사회 의제로 올라가는 이유도 여기에 있습니다. AI가 사업 전략이라면, AI 보안도 사업 전략이어야 합니다.
1Google Cloud security best practices catalog
2Google Cloud로 에이전트 AI와 생성형 AI를 보호하세요
3Cloud CISO Perspectives: At Next '26, why we're multicloud and multi-AI
4Cloud CISO Perspectives: Boards should be 'bilingual' in AI, security to gain advantage
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.