만약 AI가 취약점을 찾아내고, 여러 결함을 엮어 공격 경로까지 설계할 수 있다면 기업은 무엇을 해야 할까요. "접근 권한을 빨리 받아 경쟁우위를 만들 것인가", "안전장치가 성숙할 때까지 기다릴 것인가", 아니면 "지금 당장 AI 사용 정책을 다시 짤 것인가"가 실제 질문입니다.
최근 Claude Mythos Preview를 둘러싼 논의가 중요한 이유도 여기에 있습니다. METR은 Mythos의 자율 작업 능력이 기존 평가 체계의 상단에 걸렸다고 밝혔고, Palo Alto Networks는 최신 프론티어 모델들이 보안 영역에서 보조도구를 넘어 "자율 운영자"에 가까워지고 있다고 경고했습니다.1 핵심은 모델이 얼마나 똑똑한지가 아니라, 그 능력을 누가 어떤 권한으로 실행하게 하느냐입니다.
"얼마나 강한가"보다 "어떤 권한을 주는가"가 더 중요하다
확인된 사실부터 보겠습니다. METR은 Mythos Preview의 50% time horizon을 최소 16시간으로 추정했습니다. 이는 인간 전문가가 그 정도 걸리는 기술 과제를 AI가 절반 확률로 해낼 수 있는 지점을 뜻합니다. 다만 95% 신뢰구간은 8.5~55시간으로 넓고, 전체 228개 과제 중 16시간 이상 과제가 5개뿐이라 정밀한 수치 비교는 어렵다고 설명했습니다.1
이 대목은 과장과 과소평가를 동시에 경계하게 만듭니다. "87시간짜리 일을 완전히 대체한다"는 식의 해석은 아직 성급합니다. 반대로 "벤치마크가 불안정하니 별일 아니다"도 위험합니다. 평가 도구가 모델을 따라가지 못한다는 사실 자체가 이미 신호입니다.
기업 입장에서 더 실용적인 질문은 이것입니다. 이 모델에게 코드 저장소 읽기 권한만 줄 것인가, 테스트 환경 실행 권한까지 줄 것인가, 아니면 프로덕션 배포 권한까지 줄 것인가. 같은 모델도 권한 설계에 따라 문서 요약 도구가 될 수도 있고, 내부 공격 표면을 훑는 자동화 시스템이 될 수도 있습니다.
Mythos급 AI를 위한 간단한 위험 매트릭스
Mythos 논의를 실무로 가져오려면 작업을 네 단계로 나눠야 합니다.
첫째, 저위험 생산성 작업입니다. 문서 요약, 테스트 케이스 초안, 코드 설명처럼 결과가 곧바로 시스템에 영향을 주지 않는 작업입니다. 이 영역은 빠르게 실험해도 됩니다.
둘째, 민감 자동화 작업입니다. 내부 코드 분석, 로그 해석, 인프라 설정 검토가 여기에 들어갑니다. 생산성은 크지만, 데이터 유출과 잘못된 수정 제안의 위험이 있습니다. 접근 로그와 데이터 경계가 필요합니다.
셋째, 이중용도 보안 작업입니다. 취약점 탐지, 익스플로잇 가능성 평가, 공격 경로 분석입니다. Anthropic은 Mythos Preview가 주요 OS와 브라우저에서 제로데이 취약점을 찾고 악용 가능성을 구성할 수 있었다고 설명했습니다.2 방어자에게는 강력한 도구지만, 같은 능력은 공격자에게도 유용합니다.
넷째, 금지 또는 강한 승인 대상입니다. 인터넷 대상 스캔, 실제 익스플로잇 실행, 권한 상승 시도, 프로덕션 자동 수정, 데이터 반출 자동화입니다. 이 영역은 "AI가 잘하니까 맡긴다"가 아니라, 사람 승인·격리 환경·감사 로그 없이는 허용하지 않는 쪽이 기본값이어야 합니다.
개발팀과 보안팀이 지금 정해야 할 것
Palo Alto Networks는 최신 모델 기반 분석이 3주 만에 1년치 수동 침투 테스트에 맞먹는 범위를 다뤘고, AI 지원 시 초기 접근부터 데이터 유출까지 걸리는 시간이 25분 수준으로 줄 수 있다고 경고했습니다.1 이 수치가 모든 조직에 그대로 적용된다는 뜻은 아닙니다. 하지만 방어팀의 대응 속도 기준이 바뀌고 있다는 점은 분명합니다.
지금 필요한 준비는 거창한 AI 전략보다 운영 통제입니다.
AI가 한 일을 남기는 로그가 있어야 합니다. 어떤 저장소를 읽었고, 어떤 명령을 실행했고, 어떤 파일을 수정했는지 추적되지 않으면 사고 후 원인 분석이 불가능합니다.
테스트 환경과 운영 환경도 분리해야 합니다. 고성능 모델일수록 "그럴듯한 수정"을 빠르게 제안하지만, 보안 패치와 장애 유발 변경은 종종 한 끗 차이입니다.
코드 변경은 사람 승인 뒤 병합되도록 해야 합니다. 특히 인증, 권한, 암호화, 네트워크 경계, 배포 파이프라인 관련 코드는 AI 자동 반영 대상에서 제외하는 편이 안전합니다.
마지막으로 허용 가능한 사용 정책을 미리 써야 합니다. 모델이 공개되고 나서 정하면 늦습니다. 접근 권한을 받은 엔지니어가 "어디까지 해도 되는지" 모르는 순간, 조직은 모델 성능이 아니라 내부 통제 부재 때문에 위험해집니다.
다음 AI 시장의 경쟁력은 성능이 아니라 신뢰다
Claude Mythos가 실제로 어느 정도까지 확장될지는 아직 불확실합니다. 공개 API, 가격, 일반 접근 시점, 최종 시스템 카드가 모두 명확히 공개된 것은 아닙니다. 또한 METR의 측정도 긴 작업 구간에서는 아직 불안정합니다.
그럼에도 방향은 뚜렷합니다. 프론티어 모델 경쟁은 "누가 더 높은 점수를 내는가"에서 "누가 더 통제 가능한 강력한 시스템을 제공하는가"로 옮겨가고 있습니다. 기업 구매자는 앞으로 성능표만 보지 않을 것입니다. 감사 가능성, 권한 관리, 사고 책임, 보험 가능성, 규제 대응까지 함께 볼 가능성이 큽니다.
따라서 Mythos를 봐야 할 사람은 AI 연구자만이 아닙니다. CTO, CISO, 플랫폼 엔지니어, 개발 생산성 팀, AI 구매 담당자가 모두 신경 써야 합니다. 판단 기준은 단순합니다. "이 모델을 쓸 수 있는가"보다 먼저 "이 모델이 실패하거나 너무 잘했을 때, 우리는 통제할 수 있는가"를 물어야 합니다.
참고
1METR says it can barely measure Claude Mythos, Palo Alto Networks warns of autonomous AI attackers
2Assessing Claude Mythos Preview's cybersecurity capabilities
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.