최근 OpenAI가 미 국방부(트럼프 행정부에서 'Department of War'로 지칭)와의 계약 내용을 추가로 공개하면서 "군에서 쓰는 AI는 어디까지 허용되나"가 다시 뜨거운 이슈가 됐습니다.1 특히 경쟁사 Anthropic이 '안전장치' 문제로 정부 사용 중단·공급망 위험 지정까지 거론된 직후라, 이번 계약은 업계 표준을 가를 시험대가 될 가능성이 큽니다.23
OpenAI Pentagon agreement: 무엇이 '명시적으로 금지'됐나
OpenAI가 내세운 핵심은 간단합니다. "이건 아예 못 한다"는 금지 구역을 계약·구조·운영으로 묶었다는 주장입니다.1 공개된 설명에 따르면 금지 항목은 크게 세 가지입니다. 미국 내 '대규모' 감시(국내 대중 감시), 완전 자율무기, 그리고 사회적 신용점수 같은 고위험 자동결정(일종의 '소셜 크레딧'류)입니다.1
여기서 중요한 포인트는 '군사용 AI' 전체를 막겠다는 게 아니라, 시민이 가장 불안해하는 사용처를 빨간선으로 그었다는 점입니다. 문제는 빨간선이 선명해 보일수록, 반대로 회색지대(예: 정보분석·신호정보·해외감시)가 더 궁금해진다는 것. 이번 논쟁이 그 지점에서 터졌습니다.
'계약 문구'보다 '배포 구조'가 중요하다는 주장
OpenAI가 반복해서 강조하는 키워드는 "아키텍처(배포 구조)"입니다.1 쉽게 말해, 모델을 고객(군)의 장비에 통째로 설치해 붙이는 방식이 아니라, 클라우드 API로만 쓰게 하면 통제력이 커진다는 논리죠. 이 방식이라면 모델이 드론·센서·무기 하드웨어에 직접 내장되기 어렵고, OpenAI가 안전설정을 업데이트하거나 접근을 제한할 여지도 생깁니다.1
또 하나 눈에 띄는 건 '사람이 중간에 있다(in the loop)'는 운영 약속입니다. OpenAI는 보안 인가를 받은 자사 인력이 민감한 환경에서 함께 관여한다고 설명했습니다.1 "결국 인간 책임" 원칙을 기술·운영으로 구현하겠다는 얘기인데, 이게 실제로 얼마나 강하게 작동하느냐가 관전 포인트입니다.
왜 Anthropic은 막히고 OpenAI는 통과했을까: 속도, 정치, 그리고 표준 싸움
타이밍 자체가 드라마였습니다. Anthropic이 자율무기·대규모 감시 제한을 두고 충돌한 뒤, 트럼프 대통령이 연방기관에 Anthropic 사용 중단을 지시했고(유예기간 포함), 국방장관은 '공급망 위험'까지 언급했습니다.23 그 직후 OpenAI가 "우리도 같은 빨간선"이라며 계약을 체결했죠.23
OpenAI 쪽 설명은 "긴장을 낮추기 위해 서둘렀다"는 쪽에 가깝습니다. 실제로 샘 올트먼은 계약이 급하게 진행됐고 '보기에도 좋지 않다'는 취지로 인정했습니다.1 다만 업계 관점에서 보면, 이것은 단순 수주가 아니라 '국방 AI 계약의 표준 템플릿'을 선점하는 게임입니다. 빨간선을 인정받되, 군이 원하는 '합법적 활용 범위'도 최대한 넓게 남기는 형태로 말이죠.
그래서 OpenAI가 "이 조건을 다른 AI 회사에도 동일하게 제공하라"고 말한 대목은, 선의의 제안이면서 동시에 표준화 압박입니다.23 한 번 관행이 되면, 다음 계약에서 "너희는 왜 이 구조를 못 해?"가 되니까요.
시사점: '감시'의 정의 싸움과, 우리가 체크할 3가지
이번 OpenAI Pentagon agreement의 본질은 "금지한다"가 아니라 "어떻게 금지를 증명할 건가"입니다. 비판자들은 계약이 여러 법적 근거를 따르도록 적시한 점을 들어, 결과적으로 국내 감시로 이어질 여지가 있다고 문제를 제기했습니다.1 OpenAI는 반대로 "대규모 국내 감시는 안 되고, 구조적으로도 무기·센서에 붙이기 어렵게 했다"고 맞섭니다.1
독자로서(그리고 사용자로서) 현실적으로 체크할 것은 세 가지입니다. 첫째, '대규모(mass)'의 기준이 무엇인지--모호하면 해석 싸움이 됩니다. 둘째, 클라우드 API만 허용한다는 약속이 실제 운영에서 얼마나 강제되는지--예외가 생기는 순간 균열이 납니다. 셋째, 독립적인 감사·기록(로그)·중단권(킬 스위치)이 얼마나 실질적으로 작동하는지--"우리가 통제한다"는 말은 증거가 있을 때만 신뢰를 얻습니다.
결국 군과 AI 기업의 협업은 피하기 어렵습니다. 그렇다면 중요한 건 '협업 여부'가 아니라, 시민이 납득할 만한 통제 설계가 있느냐입니다. 이번 공개는 시작일 뿐이고, 진짜 평가는 운용 단계에서 나올 겁니다.
참고
1OpenAI reveals more details about its agreement with the Pentagon
2OpenAI strikes deal with Pentagon hours after Trump admin bans Anthropic | CNN Business
3OpenAI strikes deal with Pentagon, hours after rival Anthropic was blacklisted by Trump
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.