AI 규제 논의의 초점이 바뀌고 있습니다. 예전에는 “AI를 어떻게 활용할 것인가”가 중심이었다면, 이제는 “가장 강력한 모델을 출시 전에 누가 검증하고, 위험하면 멈출 수 있는가”가 핵심 질문이 됐습니다.
구글 딥마인드 CEO이자 공동창업자인 데미스 허사비스는 블로그 글 「A Framework for Frontier AI and the Dawning of a New Age」에서 미국이 글로벌 AI 감시기구 설립을 주도해야 한다고 주장했습니다.1 여기서 감시 대상은 일반적인 AI 서비스가 아니라 기술 최전선에 있는 고성능 AI, 즉 프런티어 모델입니다.
글로벌 AI 감시기구는 무엇을 하려는가
글로벌 AI 감시기구는 단순한 자문기구나 보고서 작성 조직이 아닙니다. 핵심 역할은 세 가지에 가깝습니다.
프런티어 모델을 평가할 공통 테스트 기준을 만든다.
모델의 역량과 위험을 독립적으로 분석한다.
위험이 크다고 판단되면 출시 지연이나 접근 제한 같은 조치를 검토한다.
즉, 이 논의의 본질은 “AI 규제를 더 많이 만들자”가 아니라 “출시 전 안전장치를 국제적으로 만들자”에 있습니다. AI가 사이버 보안, 생물학, 정보 환경처럼 국가 간 영향을 미치는 영역과 연결될수록, 한 기업이나 한 국가의 자체 판단만으로는 충분하지 않다는 문제의식입니다.
왜 지금 미국 주도론이 나오는가
이 구상은 G7 논의에서도 구체화됐습니다. 2026년 6월 프랑스 에비앙레뱅에서 열린 G7 정상회의 비공개 오찬에서 앤스로픽 CEO 다리오 아모데이와 허사비스는 미국 주도의 AI 규칙·표준 연합을 제안했습니다.2 이 자리에는 도널드 트럼프 미국 대통령을 포함한 각국 정상과 약 12명의 기술기업 임원이 참석했습니다.2
미국 주도론이 나오는 이유는 현실적입니다. 주요 프런티어 AI 기업과 연구 역량이 미국에 집중돼 있고, 규칙을 빠르게 만들려면 실제 모델을 개발하는 기업과 정부가 함께 움직여야 하기 때문입니다. CNBC 보도에 따르면 캐나다 총리 마크 카니도 미국이 AI 연합을 이끌 수 있다는 데 동의했습니다.2
아모데이가 제시한 협력 분야도 이 흐름을 보여줍니다. 그는 프런티어 모델에 대한 구조화된 접근, 칩과 핵심 부품 교역, 중국 배제 등을 언급했습니다.2 또한 AI가 사이버, 생물테러, 정보 분야에서 만들 수 있는 위험에 대응하기 위해 국가 간 협력이 필요하다고 봤습니다.2
문제는 ‘주도권’보다 ‘신뢰’다
다만 미국 주도 방식에는 분명한 긴장이 있습니다. AI의 위험과 영향은 전 세계로 확산되지만, 규칙을 만드는 권한이 일부 국가와 대형 AI 기업에 집중될 수 있기 때문입니다.
실제로 UN은 AI 거버넌스가 선진 AI 생태계를 가진 국가 중심으로 형성돼 왔다고 지적하며, 모든 정부가 참여하는 글로벌 대화를 시작했습니다.3 감시기구가 국제 안전 인프라가 되려면 특정 국가의 산업 전략처럼 보이지 않아야 합니다.
이 점에서 오픈AI CEO 샘 올트먼의 제안도 같은 방향을 가리킵니다. 그는 AI 테스트의 글로벌 표준, 역량과 위험에 대한 독립 분석, 국가 간 협력 공간을 제공하는 국제 포럼이 필요하다고 요구했습니다.2
감시기구를 판단할 세 가지 기준
앞으로 중요한 질문은 “누가 먼저 제안했는가”가 아닙니다. 실제로 작동하는 감시기구가 되려면 다음 세 가지 조건을 갖춰야 합니다.
첫째, 독립성입니다. 기업이 평가 과정에 참여하더라도 평가 결과에 개입할 수 없어야 합니다. 감시기구가 개발사의 이해관계에 종속되면 신뢰를 얻기 어렵습니다.
둘째, 집행력입니다. 위험이 확인됐을 때 단순 권고에 그친다면 실효성이 약합니다. 출시 지연, 접근 제한, 추가 검증 요구처럼 실제 행동으로 이어질 수 있어야 합니다.
셋째, 포용성입니다. AI의 영향은 국경을 넘기 때문에 감시기구도 주요 개발국만의 협의체에 머물러서는 안 됩니다. 안전 기준은 강력해야 하지만, 그 기준을 만드는 과정은 가능한 한 넓은 국제적 신뢰를 확보해야 합니다.
결론: 핵심은 ‘멈출 수 있는 권한’이다
글로벌 AI 감시기구 논의는 AI 발전을 막자는 주장이 아닙니다. 오히려 AI가 사회 기반 기술이 되는 속도에 맞춰, 출시 전 검증과 책임의 기준을 만들자는 요구에 가깝습니다.
따라서 앞으로 봐야 할 지점은 단순히 “미국이 주도하느냐”가 아닙니다. 더 중요한 질문은 이것입니다.
그 기구가 위험을 독립적으로 판단할 수 있는가. 그리고 필요할 때 실제로 멈출 권한과 신뢰를 가질 수 있는가.
이 질문에 답하지 못한다면 글로벌 AI 감시기구는 이름뿐인 협의체에 그칠 가능성이 큽니다. 반대로 이 조건을 갖춘다면, 프런티어 AI 시대의 최소한의 안전장치가 될 수 있습니다.
1Demis Hassabis says humanity has a 'precious window' to ensure AGI is safe
2CEOs of Anthropic and Google DeepMind call for U.S.-led AI coalition in meeting at G7
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.