Open Secure AI Alliance — AI 보안의 역설을 푸는 실천적 생태계

AI 보안에는 뚜렷한 역설이 존재합니다. 공격자들은 이미 최첨단 AI를 공격 도구로 활용하며 속도를 높이고 있지만, 방어자 진영은 블랙박스 도구에 의존한 나머지 사고가 발생해도 제대로 된 포렌식조차 수행하기 어려운 실정입니다. 2026년 7월 27일 공식 출범한 Open Secure AI Alliance(이하 OSAA)는 바로 이 지점을 정면으로 겨냥한 프로젝트입니다¹.

“도구”로 증명하는 개방형 생태계의 설계

OSAA는 논의에 그치는 느슨한 협의체가 아닙니다. 참여 기업들은 출범 직후부터 선언이 아니라 구체적인 도구를 오픈소스로 공개하며 실행력을 증명하고 있습니다. 출범 일주일 만에 참여 기업이 120곳 이상으로 확대되었고², Black Hat 2026에서는 첫 실무 그룹인 SAFE(Shared AI Findings Exchange)를 공개하며 즉시 전환한 모습을 보여주었습니다².

SAFE가 제안하는 작동 방식은 실용적이며 투명합니다. AI 보안 사고와 니어미스(사고 직전 상황)를 기밀로 수집·분석하고, 영향받은 당사자에게 통지하며, 비난 없는 분석을 토대로 시스템적 위험을 줄이는 운영 권장안을 발행하는 절차를 제시합니다³. SAFE 가이드라인 초안은 Linux Foundation이 관리하며 NVIDIA, Cisco, CrowdStrike, Hugging Face, Red Hat 등이 작업에 직접 참여하고 있습니다³.

OSAA의 방향성을 이해하는 핵심은 “대체”가 아니라 “추가”에 있습니다. 이니셔티브는 폐쇄형 모델을 배제하는 대신, 개방형 도구를 통해 투명성과 통제력을 기존 보안 체계 위에 더하는 것을 목표로 삼습니다¹. NVIDIA가 초기에 밝힌 관점은 이 목표를 압축적으로 보여줍니다. “공격자는 최첨단 AI를 가졌다. 방어자에게도 최첨단 AI 생태계가 필요하다”¹.

스택 전 계층을 아우르는 기여: 탐지에서 감사까지

OSAA에 참여한 기업들은 AI 보안 스택의 전 계층을 아우르는 도구를 기여하며 생태계의 정밀도를 빠르게 높이고 있습니다³. 주요 기여를 살펴보면 실무자가 어떤 지점에서 생태계를 활용할 수 있는지 구체적으로 드러납니다.

NVIDIA는 에이전트 행동을 테스트·추적·감사하는 연구 프레임워크 NOOA, LLM 취약점 스캐너 Garak, 에이전트 접근 범위를 제한하는 OpenShell 런타임, 그리고 Nemotron, Cosmos 등 개방형 모델군을 내놓았습니다³. Amazon은 오픈소스 에이전트 빌더인 Strands Agents와 함께 결정론적 인가 언어 Cedar를 기여했습니다. Cedar는 에이전트가 수행할 수 있는 작업을 코드 수준에서 정밀하게 통제할 수 있게 해줍니다³.

Microsoft는 다중 모델 에이전트 스캐닝 하네스인 MDASH를 비롯해 AI 레드팀 도구 PyRIT, 설계 가정을 사전 검증하는 Clarity 등을 제공하며 공격 표면 분석 영역을 강화합니다³. ID 및 접근 관리 영역에서는 Okta가 에이전트 신원·접근 관리를 위한 크로스 앱 액세스(XAA) 오픈 프로토콜을 개발 중이며, Palo Alto Networks는 차세대 신원 보안 플랫폼 Idira의 Agent Guard 및 Agent Watch 도구를 오픈소스로 공개했습니다³. Red Hat이 주도하는 asago 프로젝트는 NIST, OWASP, EU AI Act 같은 거버넌스 요구사항을 에이전트 런타임에 직접 매핑하여 감사 추적을 제공하는 실용적인 접근을 취합니다³.

기다리는 표준 대신, 손에 잡히는 지금의 지렛대

OSAA가 짧은 시간 안에 주목받는 이유는 속도와 실천 두 축이 동시에 작동하고 있기 때문입니다. SAFE RFC가 출범과 함께 발행되었고, 120곳 이상의 기업이 즉시 도구를 내놓으며 생태계의 초기 밀도를 형성했습니다². 주요 AI 플레이어 일부가 아직 참여하지 않았다는 점은 앞으로의 지형 변화를 가늠할 변수이지만², 방향 자체는 선명해지고 있습니다. AI 보안의 답은 검증 가능한 오픈소스와 공유된 침해 지표 및 분석 지식에 있다는 공감대가 이를 떠받치고 있습니다.

실무자 관점에서 지금 살펴볼 시작점은 명확합니다. NOOA 에이전트 하네스, SAFE 가이드라인 초안, 그리고 에이전트 거버넌스를 런타임에 연결한 asago 프로젝트가 그 출발선에 놓여 있습니다¹³. 하나의 통합 표준이 완성되기를 기다리기보다, 이미 공개된 도구로 방어 체계를 실험하며 피드백을 쌓아가는 접근이 유효한 시점입니다.

¹A clear map of the Open Secure AI Alliance

²Nvidia doesn’t mess around: A week after open AI industry group formed, it’s already showing progress

³AI Leaders Propose SAFE Guidelines for Cybersecurity Transparency