AI 모델의 보안, 새로운 전쟁이 시작됐다: Irregular의 8천만 달러 투자 스토리
최근 AI 산업계에는 뜨거운 소식이 들려왔습니다. 인공지능(AI) 보안 기업 Irregular이 저명 벤처캐피털 Sequoia Capital과 Redpoint Ventures 등으로부터 무려 8천만 달러(약 1,100억원)에 달하는 투자를 유치했습니다. 이들의 목표는 무엇일까요? 바로, 최첨단(Frontier) AI 모델의 안전을 지키는 것입니다.
AI 기술이 빠르게 진화하면서, 이제는 인간뿐만 아니라 AI끼리 직접 상호작용하는 시대가 다가오고 있습니다. 그만큼 새로운 위험도 곳곳에 도사리고 있죠. 오늘은 Irregular의 이야기를 통해 AI 모델 보안의 현재와 미래, 그리고 왜 이 분야가 ‘핫’해지고 있는지 쉽게 풀어보겠습니다.
Irregular의 공동창립자들은 AI가 공격자와 방어자 역할을 모두 맡는 복잡한 시뮬레이션 환경을 구축해, 최첨단 AI의 허점을 실전처럼 평가하고 있습니다.
AI와 AI의 대치, 보안이 무너질 틈은 없나?
AI가 AI를 공격하고, 또 다른 AI가 이를 막는다? 마치 사이버전과 논리적 두뇌싸움이 동시에 벌어지는 풍경입니다.
Irregular의 공동 창립자 Dan Lahav는 "앞으로 경제 활동의 상당 부분이 인간과 AI, 그리고 AI 대 AI의 상호작용에서 발생하게 될 것"이라 말합니다. 그러나 그런 ‘똑똑한 AI’끼리 주고받는 과정이 보안 체계를 통째로 흔들 수도 있어서, 더 강력하고 빠른 보안 대응이 필수라는 뜻이죠.
모델이 점점 똑똑해진다 = 똑똑하게 공격·방어한다
최신 AI는 소프트웨어 취약점을 분석하고 찾아내는 일도 이제 ‘놀랍도록’ 잘합니다. 이런 능력은 AI가 기업 시스템의 실수를 찾아내거나 해킹을 막는 데 쓸 수도 있지만, 반대로 공격자가 이런 AI를 활용해 유출을 시도할 수도 있습니다.
실제로, Irregular은 OpenAI의 o3, o4-mini, 앤트로픽 Claude 3.7 Sonnet과 같은 모델의 보안 평가에 참여하며 잠재적인 위험과 허점을 선제적으로 탐지하는 역할을 맡고 있습니다. 그 결과 Irregular의 평가 프레임워크(SOLVE)는 업계 표준처럼 널리 쓰이게 되었죠.
AI 모델 보안 평가의 무대 뒤: 복잡한 모의환경
아직 출시되지 않은 AI도 Irregular의 ‘가상 실험실’에서 혹독하게 테스트를 받아야 합니다. 공격 역할을 맡은 AI와 방어 역할을 맡은 AI를 복잡하게 연결해 ‘실전 상황’을 조성하고, 어디서 방어벽이 무너지는지 직접 실험합니다.
이런 방식 덕분에, 개발자들은 모델이 ‘현실 세계’에 나온 뒤 어떤 위험에 노출될 지 미리 파악할 수 있고, 패치나 개선 방안도 사전에 마련할 수 있습니다.
Omer Nevo 공동창립자는 “우리 시스템에서는 AI가 공격자와 방어자 역할을 동시에 맡아 복잡한 네트워크 시뮬레이션이 이뤄진다”고 설명합니다.
AI 보안, 산업의 새로운 골든타임
AI가 폭발적으로 성장하는 만큼, “안전한 AI”에 대한 투자는 점점 더 중요해집니다. Irregular의 대규모 투자에서도 알 수 있듯, 이제 AI의 잠재력만큼이나 그 안전망 역시 강력해야만 하는 시대가 온 것 같습니다.
Wiz의 CEO 등, 보안 업계 인사들이 이번 투자에 참여한 것도 이런 흐름을 잘 보여줍니다. 실제로 AI 보안 스타트업의 기업 가치는 4억 5천만 달러에 이르렀고, 미래 전망 역시 매우 밝다는 평입니다.
정리: 첨단 AI, 혜택만큼 위험도 커진다
오늘날 AI 보안은 단순한 기술 경쟁이 아닙니다. ‘모델의 똑똑함’만 추구하다보면, 보안구멍도 똑같이 똑똑하고 위험해집니다. Irregular의 투자 유치 사례는 앞으로 AI가 사회 구석구석에 스며들 때, 그 안에서 일어날 수 있는 ‘예상 밖의 사고’까지 대비해야 함을 상징합니다.
앞으로 AI와 함께 성장하려면, ‘보안’이라는 기본기까지 놓치지 않도록 산업 전체가 깨어있어야 하겠죠. AI 개발자, IT 보안 전문가, 일반 기업 모두 Irregular의 사례처럼 변화하는 환경에서 한발 앞서 대응하는 습관이 필요합니다.
최첨단 AI의 보안, 앞으로가 더 궁금해지는 시대! 여러분은 어떤 대비책을 준비하고 계신가요?
참고
[1] Irregular raises $80 million to secure frontier AI models - TechCrunch
이미지 출처
이미지 출처: Markus Spiske on Pexels