이제 보안팀이 물어야 할 질문은 "직원이 피싱 메일을 구별할 수 있는가"에서 "우리 시스템 안의 AI 에이전트가 무엇을 할 수 있고, 어디까지 믿어도 되는가"로 옮겨가고 있다.
Bloomberg는 Experian이 2025년에 대응한 5,000건의 데이터 침해 중 40%가 AI 기반 공격이었다고 전했다. Experian은 2026년에는 에이전트형 AI가 데이터 침해의 주요 원인으로 부상할 수 있다고 전망했다.1 중요한 점은 이 수치가 전 세계 모든 침해의 절대 비율이 아니라, Experian이 처리한 사건 표본이라는 것이다. 그래도 방향은 분명하다. 공격의 병목이 '사람을 속이는 기술'에서 '기계가 기계를 조작하는 능력'으로 이동하고 있다.
사람의 실수보다 빠른 공격자가 등장했다
오랫동안 보안의 약한 고리는 사람이었다. Verizon DBIR 기준으로도 2025년 침해의 68%는 피싱, 소셜 엔지니어링, 실수 등 인간 요소와 관련이 있었다.2 이 사실은 여전히 유효하다. 직원 교육, MFA, 권한 관리가 갑자기 쓸모없어진 것은 아니다.
다만 AI는 이 인간 요소를 우회하거나 증폭한다. 생성형 AI는 피싱 문구를 자연스럽게 만들고, 음성 복제는 임원 사칭 사기를 정교하게 하며, 자동화된 스캐닝은 취약점을 더 빠르게 찾는다. Experian도 2026년 전망에서 합성 신원, AI 에이전트, 변형 악성코드, 양자 컴퓨팅 리스크를 주요 위협으로 제시했다.3
실무적으로는 "보안 교육을 더 많이 하자"만으로 부족하다. 공격자가 사람을 속이는 데 그치지 않고, API·업무 자동화 도구·AI 에이전트의 권한 체계를 노리기 때문이다. 이제 보안 검토 대상은 직원 계정뿐 아니라 에이전트 계정, 플러그인, 워크플로 자동화, 벡터DB, 모델 호출 권한까지 포함해야 한다.
에이전트형 AI의 위험은 '똑똑함'보다 '권한'에서 온다
에이전트형 AI는 단순 챗봇과 다르다. 목표를 받고, 도구를 호출하고, 여러 단계를 이어 실행한다. 이메일을 읽고, CRM을 조회하고, 결제 요청을 만들고, 티켓을 닫는 식이다. 이 능력은 생산성을 올리지만, 동시에 공격자에게 매력적인 실행 환경이 된다.
Insurance Journal은 Experian 전망을 인용해, 공격자가 피해 조직의 AI 에이전트 오케스트레이션이나 거버넌스를 교란할 수 있다고 설명했다. 그 결과 정보 탈취, 금전 손실, 랜섬웨어 유사 행위가 발생할 수 있다는 것이다.4
핵심은 에이전트가 "무엇을 아는가"보다 "무엇을 할 수 있는가"다. 읽기 권한만 있는 에이전트와 송금·삭제·외부 전송 권한을 가진 에이전트의 위험은 완전히 다르다. 따라서 에이전트 도입 시 최소한 다음 기준이 필요하다.
에이전트별 권한을 사람 계정과 분리해 관리하는가
외부 전송, 결제, 계정 변경에는 별도 승인 절차가 있는가
프롬프트 인젝션이나 도구 오용 로그를 남기는가
실패했을 때 사람이 개입할 수 있는 중단 지점이 있는가
AI 에이전트를 "똑똑한 인턴"처럼 다루라는 조언이 나오는 이유도 여기에 있다. 일을 맡기되, 민감한 시스템에는 바로 연결하지 말아야 한다.
방어에도 AI가 필요하지만, 만능 방패는 아니다
반론도 있다. 공격자가 AI를 쓰면 방어자도 AI를 쓰면 되는 것 아니냐는 주장이다. 실제로 보안 AI와 자동화는 침해 탐지 시간을 줄이고 비용을 낮추는 데 도움이 된다. IBM 관련 통계에 따르면 2025년 평균 데이터 침해 비용은 444만 달러였고, 침해 식별부터 containment까지의 평균 라이프사이클은 241일로 집계됐다.2 다른 집계에서도 보안 AI와 자동화를 도입한 조직은 침해 비용과 대응 시간을 줄이는 효과를 보고했다.5
하지만 여기에는 트레이드오프가 있다. 방어 AI를 늘릴수록 새로운 AI 인프라가 생긴다. 모델 레지스트리, 벡터 데이터베이스, 에이전트 런타임, 프롬프트 저장소가 관리 대상이 된다. 이 구성요소가 인증 없이 노출되거나 과도한 권한을 가지면, 방어 도구가 다시 공격 표면이 된다.
즉 2026년의 보안 성숙도는 "AI를 쓰는가"가 아니라 "AI를 통제 가능한 운영 시스템으로 다루는가"로 갈릴 가능성이 크다. 빠른 탐지를 위해 AI를 도입하되, 그 AI가 접근하는 데이터와 실행 권한은 제로 트러스트 원칙으로 제한해야 한다.
지금 봐야 할 신호는 'AI 사용 여부'가 아니라 'AI 권한 구조'다
Experian의 전망을 과장해서 읽을 필요는 없다. "AI가 모든 침해의 원인"이라는 뜻은 아니다. 아직도 피싱, 자격 증명 탈취, 클라우드 설정 오류, 공급망 침해는 주요 원인이다. 다만 AI는 이 오래된 공격들을 더 빠르고 설득력 있게 만들고 있다.
따라서 CIO, CISO, 데이터 책임자, AI 제품 책임자가 지금 확인해야 할 것은 하나다. 우리 조직의 AI 에이전트가 어떤 데이터에 접근하고, 어떤 행동을 실행하며, 누가 그 권한을 승인했는가. 이 질문에 답하지 못한다면, AI 도입 속도는 생산성 지표가 아니라 침해 가능성을 키우는 지표가 될 수 있다.
참고
2139 Cybersecurity Statistics and Trends [updated 2025]
32026 Data Breach Industry Forecast
4Experian: AI Agents Could Overtake Human Error as Major Cause of Data Breaches
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.