이제 보안팀이 던져야 할 질문은 "패치를 얼마나 빨리 적용할 것인가"에서 한 걸음 더 나아간다. "사람이라면 지루해서 포기했을 이상한 예외와 흐름을 AI가 계속 시험한다면, 우리 시스템은 어디서 깨질까?"
최근 Google Threat Intelligence Group은 공격자가 AI 도움을 받아 제로데이 취약점을 발견·무기화한 것으로 보이는 사례를 확인했다고 밝혔다. 해당 취약점은 인기 있는 오픈소스 웹 기반 시스템 관리 도구의 2단계 인증을 우회하는 Python exploit에 구현돼 있었고, Google은 벤더와 협력해 대규모 악용 가능성을 차단했다고 설명했다1. 중요한 점은 "AI 해커가 갑자기 마법처럼 등장했다"가 아니다. 취약점 탐색의 반복 비용이 낮아지고 있다는 점이다.
진짜 변화는 천재성이 아니라 시도 횟수다
확인된 내용부터 분리해 보자. Google은 이 공격에 Gemini가 쓰였다고 보지는 않는다. 다만 exploit 코드에 교육용 주석, 환각된 CVSS 점수, 교과서적인 Python 구조 등 LLM 생성 코드에서 흔히 보이는 흔적이 있어 AI 모델이 발견과 무기화 과정에 관여했을 가능성이 높다고 평가했다2.
또 이 취약점은 완전한 무인 침입 도구라기보다는, 유효한 계정 정보가 있어야 악용 가능한 2FA 우회였다3. 그래서 "모든 2FA가 무력화됐다"는 식의 해석은 과장이다.
하지만 실무적으로는 오히려 이 지점이 더 불편하다. 메모리 손상이나 입력값 검증 실패처럼 스캐너가 잘 잡는 버그가 아니라, 개발자가 코드 안에 심어둔 "이 경우는 신뢰해도 된다"는 가정이 깨진 사례이기 때문이다. AI는 이런 흐름을 읽고, 예외 조건을 비교하고, 여러 조합을 지치지 않고 시험하는 데 점점 강해지고 있다.
AI가 지루해하지 않는 곳이 새로운 위험 지점이다
사람 리뷰어는 보통 정상 경로를 중심으로 본다. 로그인하고, 2FA를 통과하고, 관리자 화면에 접근하는 식이다. 반면 AI 보조 취약점 탐색은 "비정상적이지만 가능한 경로"를 대량으로 밀어볼 수 있다.
예를 들면 이런 곳이다.
2FA, SSO, 비밀번호 재설정처럼 상태 전환이 많은 인증 흐름
관리자 도구, 백업 콘솔, 내부 운영 패널
오래된 오픈소스 컴포넌트와 플러그인
임시 예외, 하드코딩된 신뢰 조건, 특정 역할만 우회하는 로직
"내부망에서만 호출된다"는 전제로 만든 API
Google 보고서에는 중국·북한 연계 공격자들이 AI를 취약점 연구에 활용하려는 정황도 포함됐다. 예컨대 APT45는 여러 CVE와 PoC를 검증하기 위해 수천 개의 반복 프롬프트를 보낸 것으로 관찰됐고, WooYun의 실제 취약점 사례 8만5천여 개를 모델에 주입해 코드 분석 품질을 높이려는 시도도 언급됐다4.
해석하면 이렇다. 공격자는 더 똑똑해졌다기보다, 더 많은 가설을 더 싸게 시험할 수 있게 됐다. 따라서 평범한 제품의 평범한 예외 처리가 과거보다 더 빨리 노출될 수 있다.
비싼 AI 방어 도구 전에 할 수 있는 일
이 뉴스가 곧바로 "AI 보안 제품을 사라"는 결론으로 이어지지는 않는다. 오히려 먼저 해야 할 일은 지루한 목록 정리다.
이번 분기에 현실적으로 점검할 항목은 다음과 같다.
첫째, 외부에 노출된 관리자 인터페이스를 다시 세어야 한다. VPN 뒤에 있는지, IP 제한이 있는지, MFA가 실제 모든 경로에 적용되는지 확인해야 한다.
둘째, 인증 우회 abuse case를 QA에 넣어야 한다. "정상 로그인 실패"가 아니라 "일부 세션 값이 남은 상태에서 2FA 단계만 건너뛰면?", "역할이 바뀐 직후 기존 토큰은?" 같은 테스트가 필요하다.
셋째, 로그를 exploit 탐지 관점으로 바꿔야 한다. AI 보조 공격은 성공 전 많은 탐색 흔적을 남길 가능성이 크다. 반복적인 401/403, 드문 파라미터 조합, 관리자 경로에 대한 비정상 순회가 보이면 단순 노이즈로 버리지 말아야 한다.
넷째, "이 조건이면 믿어도 된다"는 코드를 줄여야 한다. 하드코딩된 예외, 오래된 호환성 분기, 내부 호출 전제는 문서화하고 제거 후보로 올리는 편이 낫다.
역설적으로, 기본기가 더 비싸졌다
반론도 필요하다. AI가 모든 제로데이를 자동으로 찾아내는 시대가 열린 것은 아니다. Anthropic의 보안 특화 모델을 테스트한 curl 개발자 Daniel Stenberg는 보고된 취약점 다섯 개 중 실제 미공개 보안 이슈는 하나였다고 밝히며 과장된 기대를 경계했다5. AI 도구는 여전히 오탐을 만들고, 복잡한 엔터프라이즈 권한 구조를 완벽히 이해하지 못한다.
그러나 방어자에게 위안이 되지는 않는다. 공격자는 오탐을 버리면 그만이지만, 방어자는 놓친 하나가 사고가 된다.
그래서 결론은 의외로 보수적이다. 최소 권한, 패치 규율, 코드 리뷰, 안전한 기본값, 감사 로그, 자산 인벤토리의 가치가 줄지 않았다. 오히려 AI가 취약점 발견 속도를 올릴수록 이런 기본기는 더 중요해진다.
이번 사례를 가장 심각하게 봐야 할 곳은 오픈소스 관리 도구를 운영하는 조직, SaaS 관리자 기능을 가진 팀, 인증·권한 로직을 직접 구현한 제품팀이다. 다음 헤드라인을 기다릴 필요는 없다. 지금 봐야 할 것은 "우리가 알고 있는 취약점"만이 아니라, AI가 싸게 반복해볼 수 있는 우리의 이상한 가정들이다.
참고
1Google says it stopped a mass cyberattack after AI was used to discover a zero-day exploit
3Google discovers weaponized zero-day exploits created with AI
4Google Detects First AI-Generated Zero-Day Exploit
5Google Says It Found Evidence of Hackers Using AI to Discover a Zero-Day Vulnerability
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.