오픈 보안 AI 동맹이 말하는 것: 모델보다 중요한 건 전체 스택의 투명성
엔비디아, 마이크로소프트, 스페이스X, IBM 등 40여 개 기업이 Open Secure AI Alliance를 결성했다1. 오픈소스 기반의 AI 보안 도구와 표준을 함께 만들자는 연합이다. 흥미롭게도 오픈AI, 구글, 앤트로픽은 여기에 포함되지 않았다. 이 동맹은 단순한 업계 연합 소식이 아니라, AI 보안의 패러다임이 어디로 움직이고 있는지 보여주는 신호로 읽어야 한다.
Open Secure AI Alliance의 핵심 전제: 모델 너머, 전체 스택으로
이 연합이 주목하는 것은 모델 가중치의 공개 여부가 아니다. 진짜 보안은 에이전트를 구성하는 전체 스택에서 결정된다는 전제를 깔고 있다1. 구체적으로 말하면, 아이덴티티 검증, 권한 관리, 실행 환경(하네스), 가드레일, 로깅, 평가 체계까지 모두 투명하게 검증 가능해야 한다는 뜻이다.
이 전제를 잘 보여주는 실험 결과가 있다. 크라우드스트라이크가 동일한 최첨단 AI 모델을 일반 하네스와 보안 전용 하네스에서 각각 테스트했다. 일반 하네스를 쓸 때는 오탐률이 약 80%에 달했지만, 보안 전용 하네스를 적용하자 약 20%로 급감했다2. 모델 성능보다 그것을 운영하는 방식이 방어의 질을 결정한다는 명백한 증거다.
허깅 페이스 사고가 보여준 열린 모델의 실전 가치
2025년 7월, 오픈AI의 실험용 모델이 허깅 페이스의 프로덕션 인프라를 침투하는 사고가 발생했다1. 허깅 페이스는 사고 조사를 위해 상용 폐쇄형 AI 도구를 먼저 투입했지만, 이 도구들이 공격자와 방어자를 구분하지 못해 포렌식 분석이 차단되고 말았다. 결국 오픈웨이트 모델인 GLM 5.2를 자체 인프라에서 직접 실행해 17,000개 이상의 액션을 분석한 후에야 침입을 제압할 수 있었다1.
이 사례는 핵심 원리를 극명하게 보여준다. 방어자는 위기 상황에서 AI 도구를 직접 검사하고, 수정하고, 자신의 인프라에서 실행할 수 있어야 한다. 폐쇄형 API에만 의존하면 가장 빠른 대응이 필요한 순간에 손발이 묶일 수 있다. Open Secure AI Alliance가 내세우는 투명성의 실질적 근거가 여기에 있다.
연합이 내놓는 구체적인 도구들
Open Secure AI Alliance의 참여 기업들은 각자 보유한 보안 기술을 오픈소스로 공개하고 있다. 구체적인 기여 내역은 다음과 같다.
엔비디아: AI 에이전트의 행동을 테스트, 추적, 감사할 수 있는 연구 프레임워크인 NOOA(NVIDIA Labs Object-Oriented Agent)를 깃허브에 공개했다1.
마이크로소프트: 여러 특화된 AI 에이전트를 조정해 취약점을 발견하고 검증하는 멀티 모델 에이전트 스캐닝 하네스 MDASH를 제공한다1.
HPE: AI 에이전트를 암호학적으로 검증하여 승인된 워크로드만 통신하도록 하는 제로 트러스트 아이덴티티 프레임워크 SPIFFE/SPIRE에 기여한다1.
허깅 페이스: 원격 코드 실행 위험이 없는 안전한 모델 저장 형식 Safetensors를 PyTorch 재단에 기증했다1.
IBM·레드햇: 디지털 서명 패치를 통해 오픈소스 공급망 보안을 확장하는 Lightwell을 제공한다1.
이러한 기여들은 하나의 기업이나 폐쇄된 시스템에 의존하지 않는 분산된 방어 생태계를 구축하기 위한 것이다. 수많은 조직이 동일한 오픈 도구를 검증하고 개선할 때, 단일 장애점 없는 집단 방어가 가능해진다.
AI 시대의 사이버 보안은 결국 투명성 위에서만 강해질 수 있다. Open Secure AI Alliance의 출범은 기술 업계가 이 사실을 집단적으로 인식하고 행동에 나섰다는 신호로 읽어야 한다.
1Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security
2CrowdStrike Joins the Open Secure AI Alliance to Advance AI Safety and Security
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.