AI 회사를 믿는다는 것은 이제 모델 성능표를 믿는 일이 아닙니다. 그 회사가 더 빠른 출시, 더 큰 투자, 더 강한 창업자 서사 앞에서 스스로 세운 안전 원칙을 지킬 수 있는지 판단하는 일입니다.
최근 머스크 대 올트먼 재판에서 전 OpenAI CTO 미라 무라티가 샘 올트먼의 말을 신뢰할 수 없었다는 취지로 증언했다고 The Verge가 보도했습니다.1 이 장면이 중요한 이유는 인물 간 갈등 때문만이 아닙니다. AI 기업의 진짜 리스크가 모델 내부가 아니라 의사결정 구조, 권한 배분, 리더십 문화에서 터질 수 있음을 보여주기 때문입니다.
제품 발표가 숨기는 것, 법정 증언은 드러낸다
OpenAI는 ChatGPT, DALL·E, Sora 같은 제품으로 AI 산업의 기준점을 바꿨습니다. 하지만 법정에서 드러나는 질문은 다릅니다. "모델이 얼마나 뛰어난가"가 아니라 "누가 무엇을 알고 있었고, 누가 멈출 권한을 가졌는가"입니다.
관련 증언과 자료를 종합하면, 2023년 올트먼 해임 사태를 둘러싼 내부 판단은 상당히 불안정했습니다. 일리야 수츠케버의 증언에 따르면 올트먼 해임을 뒷받침한 52쪽 분량의 문건은 상당 부분 무라티가 제공한 정보에 의존했고, 그는 나중에 그 정보가 검증된 직접 지식이라기보다 2차 정보였다고 인정했습니다.2
여기서 핵심은 "누가 맞았나"가 아닙니다. 더 중요한 질문은 이겁니다. 세계에서 가장 중요한 AI 회사 중 하나가 CEO 해임이라는 극단적 결정을 내릴 때, 정보 검증·반론 청취·비상 커뮤니케이션 체계가 충분했는가.
AI 기업을 평가할 때 제품 데모보다 먼저 봐야 할 것은 바로 이 운영 체계입니다. 안전을 말하는 회사는 많지만, 안전 판단이 실제로 CEO나 매출 목표를 제어할 수 있는지는 별개의 문제입니다.
'미션 중심'과 '시장 중심'은 반드시 충돌한다
OpenAI 소송의 배경에는 비영리 미션과 상업화 구조의 충돌이 있습니다. 머스크는 OpenAI가 초기 비영리 약속을 저버렸다고 주장하고, OpenAI 측은 대규모 AI 개발에는 막대한 자본과 컴퓨팅 인프라가 필요했다고 맞섭니다. 실제 소송 기록상 머스크는 2024년 8월 연방법원에 OpenAI와 올트먼 등을 상대로 소송을 제기했습니다.3
여기서 한쪽을 단순히 선악으로 나누면 실무 판단을 놓칩니다. 프런티어 AI는 비싸고, Microsoft 같은 대형 파트너 없이는 훈련·배포·운영 비용을 감당하기 어렵습니다. 상업화 자체가 문제는 아닙니다.
문제는 상업화 압력이 커질수록 다음 질문들이 흐려지는 순간입니다.
안전팀이 출시를 실제로 중단시킬 수 있는가
이사회가 기술적으로 충분히 이해하고 독립적으로 판단하는가
"인류를 위한 AI" 같은 문구가 감사 가능한 기준으로 번역되어 있는가
임원 간 불신이 생겼을 때 공식 절차가 작동하는가
무라티의 증언은 그래서 리더 개인의 평판 문제가 아니라, 신뢰가 문서·절차·권한으로 제도화되어 있었는지를 묻는 사건으로 읽어야 합니다.
AI 회사를 믿기 전 물어야 할 질문들
창업자, 엔터프라이즈 구매자, 투자자, 정책 담당자, 입사 후보자라면 다음 질문을 던져야 합니다.
첫째, "누가 출시를 멈출 수 있나?"
안전 책임자가 조언만 하는지, 실제 거부권을 갖는지 확인해야 합니다.
둘째, "안전 주장은 외부 검증 가능한가?"
모델 카드, 레드팀 결과, 사고 보고 체계가 마케팅 문구보다 중요합니다.
셋째, "CEO와 이사회가 충돌하면 어떤 절차가 작동하나?"
OpenAI 사태에서 보았듯, 이사회가 독립적이어도 경험과 정보 검증 능력이 부족하면 오히려 조직 리스크가 커질 수 있습니다.
넷째, "핵심 인력 이탈이 반복되는가?"
OpenAI는 안전·정책 관련 인력 이탈을 둘러싸고 여러 차례 논란을 겪었습니다.4 한두 명의 퇴사는 자연스럽지만, 특정 기능에서 반복되는 이탈은 문화적 신호일 수 있습니다.
더 큰 교훈: AI 리스크는 경영 리스크다
AI 안전 논의는 흔히 모델 능력, 정렬, 오용 가능성에 집중합니다. 물론 중요합니다. 하지만 이번 증언이 보여주는 더 실용적인 교훈은 따로 있습니다.
강력한 AI 시스템은 강력한 조직 위에서만 안전하게 운영됩니다. 리더의 말이 조직 내부에서 신뢰되지 않고, 이사회가 충분히 검증하지 못하며, 상업화 압력이 안전 기준을 계속 재해석하게 만든다면 좋은 헌장과 멋진 미션 문구는 방어막이 되지 못합니다.
AI 회사를 도입하거나 투자하거나 규제하려는 사람은 이제 모델 성능만 볼 수 없습니다. 봐야 할 것은 거버넌스의 내구성입니다. 누가 멈출 수 있는가. 누가 검증하는가. 누가 CEO에게 "아니오"라고 말할 수 있는가. 그 답이 흐릿하다면, 그 회사의 가장 큰 위험은 아직 출시되지 않은 다음 모델이 아니라 이미 작동 중인 경영 구조일 수 있습니다.
참고
1Mira Murati tells the court that she couldn't trust Sam Altman's words
2Inside the Deposition That Showed How OpenAI Nearly Destroyed Itself
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.