AI 생성 이미지
미국 사이버사령부가 고도 기밀 네트워크에 AI를 배포하려는 움직임은 단순한 신기술 도입이 아닙니다. 핵심은 "어떤 모델을 쓰느냐"보다 "AI가 어떤 권한으로 무엇을 할 수 있느냐"입니다.
AI가 보고서 초안을 쓰는 도구에 머물 때와, 기밀망 안에서 데이터를 조회하고 판단을 보조하며 자동화된 조치를 실행할 수 있을 때의 보안 문제는 완전히 다릅니다. 미 사이버사령부 사례는 앞으로 조직이 AI를 도입할 때 무엇을 먼저 점검해야 하는지 보여줍니다.
문제의 중심은 에이전트형 AI다
최근 미국·영국·호주·캐나다·뉴질랜드 사이버보안 기관은 자율형 AI 시스템을 핵심 사이버보안 사안으로 다루라는 공동 지침을 발표했습니다.1 이 지침이 겨냥하는 대상은 에이전트형 AI입니다.
에이전트형 AI는 대형언어모델을 기반으로 스스로 계획하고, 판단하고, 행동할 수 있는 소프트웨어입니다. 다만 실제 업무를 수행하려면 외부 도구, 데이터베이스, 메모리 저장소, 자동화 워크플로와 연결되어야 합니다.1
바로 이 연결이 가치를 만들고 동시에 위험을 키웁니다. AI가 로그를 읽고 요약하는 수준을 넘어 파일을 수정하거나, 권한을 조정하거나, 자동화된 대응 절차를 실행할 수 있다면 AI는 더 이상 단순한 분석 도구가 아닙니다. 조직 내부 시스템에서 행동하는 새로운 주체가 됩니다.
기밀망에서는 성능보다 통제가 먼저다
미 사이버사령부는 펜타곤과 NSA의 고도 기밀망, 이른바 '하이사이드' 환경에 상용 AI 모델을 안전하게 배포하는 방안을 평가하는 태스크포스를 꾸린 것으로 알려졌습니다.2 보도에 따르면 이 태스크포스는 NSA와 사이버사령부에 걸쳐 구성됐으며, NSA의 AI 보안센터가 주로 기술 전문성을 제공하고 사이버사령부 장교가 이끄는 구조입니다.2
이 움직임의 배경에는 사이버 작전의 속도 문제가 있습니다. AI는 위협 탐지, 취약점 우선순위 판단, 데이터 분석, 의사결정 지원에서 대량 정보를 빠르게 처리할 수 있습니다. 사이버사령부도 90일 단위 파일럿을 통해 AI 기술을 시험하고, 위협 탐지와 데이터 분석 자동화에 적용하려는 계획을 세우고 있습니다.3
하지만 기밀망에서는 "더 빠르게"만으로는 충분하지 않습니다. 더 중요한 질문은 다음과 같습니다.
AI가 어떤 데이터에 접근할 수 있는가
어떤 명령을 실행할 수 있는가
실행 결과를 사람이 검토하거나 중단할 수 있는가
오작동이 발생했을 때 되돌릴 수 있는가
모든 행동이 로그로 추적되는가
에이전트가 과도한 권한을 가지면 작은 오류도 큰 사고로 번질 수 있습니다. 그래서 최소권한, 짧은 수명의 자격증명, 암호화된 통신, 고위험 작업에 대한 사람 승인 같은 원칙이 핵심 통제 수단이 됩니다.1
상용 AI 모델을 기밀 환경에 올린다는 의미
이번 논의가 특히 민감한 이유는 실리콘밸리 기업의 강력한 AI 모델을 최고 기밀 등급 네트워크에 어떻게 안전하게 배포할지 평가한다는 점입니다.2 일반 업무 환경에서 검증된 모델이라도 기밀망에서는 다른 기준이 필요합니다.
모델이 얼마나 똑똑한지보다 중요한 것은 배포 방식입니다. 기밀 데이터가 모델 외부로 새지 않는지, 모델이 외부 시스템과 어떤 방식으로 연결되는지, 권한 상승이나 의도치 않은 작업 실행을 막을 수 있는지 따져야 합니다.
Anthropic이 4월 Claude Mythos 모델을 공개하면서 오용 위험을 이유로 접근을 제한한 사례도 같은 맥락에서 볼 수 있습니다.2 강력한 모델일수록 배포 환경과 사용 권한을 더 엄격하게 설계해야 합니다.
기업도 같은 기준으로 AI를 봐야 한다
이 이야기는 군사 조직에만 해당하지 않습니다. 기업에서도 AI 에이전트가 고객 데이터베이스, 코드 저장소, 결제 시스템, 업무 자동화 도구에 연결되는 순간 보안 범위가 달라집니다.
따라서 AI 도입 체크리스트는 모델 성능표에서 끝나면 안 됩니다. 다음 항목을 먼저 확인해야 합니다.
AI가 접근할 수 있는 데이터의 범위
AI가 실행할 수 있는 명령의 종류
외부 도구와 API 연결 방식
고위험 작업에 대한 승인 절차
로그 기록과 사후 감사 가능성
실패했을 때의 중단·복구 절차
미 사이버사령부의 AI 배포 움직임이 주는 교훈은 분명합니다. AI를 업무에 붙이는 시대에는 보안의 중심이 "사용자 관리"에서 "AI 행위 관리"로 이동합니다.
좋은 AI를 고르는 것만큼 중요한 일은 AI가 할 수 없는 일을 명확히 정하는 것입니다. 성능 경쟁보다 권한 설계가 먼저입니다.
1US government, allies publish guidance on how to safely deploy AI agents
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.