AI 도구를 쓰거나, 그 위에 제품을 만들거나, 관련 회사에 투자한다면 이제 질문은 단순합니다. "이 회사가 안전을 말한다"가 아니라 "돈과 속도가 안전과 충돌할 때 누가 멈출 수 있는가"를 봐야 합니다.
일론 머스크가 OpenAI와 샘 올트먼 등을 상대로 제기한 소송은 유명 창업자들 간의 갈등처럼 보이지만, 실제 쟁점은 더 실무적입니다. OpenAI가 비영리 사명에서 출발해 상업 조직으로 커지는 과정에서 안전 거버넌스가 제대로 작동했는지, 그리고 그런 약속이 법적·조직적으로 얼마나 강한지 법정에서 검증받고 있습니다.
배신의 문제가 아니라, 규칙을 바꿀 권한의 문제
머스크 측 주장은 OpenAI가 "인류에게 이로운 AGI"라는 비영리적 약속을 바탕으로 초기 자금과 신뢰를 모은 뒤, 결국 영리 구조로 이동했다는 것입니다. 머스크는 자신이 초기 OpenAI에 약 3,800만 달러를 기부했다고 주장하며, OpenAI가 이를 허가받지 않은 상업 목적에 썼다고 법정에서 말했습니다.1
OpenAI의 반론도 중요합니다. 회사 측은 머스크가 순수한 안전 우려 때문이 아니라 경쟁사 xAI의 이해관계 때문에 소송을 활용하고 있다고 봅니다. 실제로 머스크는 OpenAI를 떠난 뒤 xAI를 설립했고, OpenAI 측 변호인들은 이 점을 집요하게 파고들고 있습니다.2
여기서 독자가 봐야 할 것은 "누가 더 위선적인가"가 아닙니다. 핵심은 창업 당시의 미션 문구가 시간이 지나도 조직을 구속할 수 있느냐입니다. 비영리 이사회, 영리 자회사, 투자자, 전략적 파트너가 얽힌 구조에서 미션은 슬로건이 아니라 권한 배분이어야 합니다.
안전 조직이 있었다는 것과 작동했다는 것은 다르다
이번 재판에서 특히 중요한 대목은 OpenAI의 안전 관련 증언입니다. 전 AGI readiness 팀 구성원 로지 캠벨은 OpenAI가 연구 중심 조직에서 제품 중심 조직으로 변했다고 증언했습니다. 그는 Microsoft가 Bing을 통해 GPT-4 버전을 인도에 배포하는 과정에서 OpenAI의 Deployment Safety Board 평가를 거치지 않은 사례를 언급했습니다.3
이 증언이 곧 OpenAI가 안전을 포기했다는 확정 증거는 아닙니다. 캠벨도 대규모 AI 개발에는 막대한 자금이 필요하다는 점을 인정했습니다. OpenAI 역시 모델 평가와 안전 프레임워크를 공개해 왔습니다.3
다만 실무적으로 중요한 지점은 따로 있습니다. 안전 프로세스는 "존재"보다 "우회 불가능성"이 중요합니다. 문서화된 심의 절차가 있어도, 대형 파트너의 출시 일정이나 매출 압박 앞에서 생략될 수 있다면 그 절차는 신뢰 장치가 아니라 내부 권고에 가깝습니다.
AI 회사를 평가하는 간단한 신뢰 테스트
OpenAI만의 문제가 아닙니다. Anthropic, Google DeepMind, Meta, xAI, 또는 작은 AI 스타트업에도 같은 질문을 적용할 수 있습니다.
첫째, 위험한 출시를 실제로 막을 수 있는 사람은 누구인가. 안전팀이 의견을 내는 수준인지, 출시 거부권을 갖는지 구분해야 합니다.
둘째, 안전 판단자가 매출 목표와 얼마나 분리되어 있는가. 같은 임원이 제품 성장과 안전 승인을 동시에 책임진다면 충돌은 구조적으로 내장됩니다.
셋째, 미션이 법적으로 집행 가능한가. "인류를 위한 AI"는 좋은 문장이지만, 투자 계약·정관·이사회 권한·파트너십 계약에 반영되지 않으면 위기 때 밀릴 수 있습니다.
넷째, 안전을 늦추면 누가 손해를 보는가. 직원 주식, 투자자 수익률, 클라우드 파트너 매출이 모두 빠른 출시를 원할 때 안전 원칙은 시험대에 오릅니다.
지금 바뀌어야 할 의사결정
개발자는 단일 AI 플랫폼에 과도하게 묶이지 않는 설계를 고민해야 합니다. 모델 교체 가능성, 로그·평가 데이터의 독립 보관, 대체 API 전략은 이제 비용이 아니라 보험입니다.
기업 구매자는 성능 벤치마크만 볼 것이 아니라 벤더의 안전 거버넌스를 물어야 합니다. "모델 카드를 공개하나요?"보다 "출시 중단 권한은 누구에게 있나요?"가 더 날카로운 질문입니다.
직원과 투자자는 미션 중심 회사를 볼 때 보상 구조와 통제권을 함께 봐야 합니다. 좋은 창업자, 좋은 문구, 좋은 블로그 글만으로는 충분하지 않습니다.
머스크 소송의 결론이 어떻게 나든, 이미 드러난 교훈은 분명합니다. AI 회사의 신뢰는 선의가 아니라 설계에서 나옵니다. 앞으로 안전을 말하는 회사는 많아질 것입니다. 우리가 봐야 할 것은 그 말이 매출과 충돌할 때도 살아남는 구조인지입니다.
참고
1Musk texted OpenAI's Brockman about settlement two days before trial began
2Musk accuses OpenAI lawyer of trying to 'trick' him in combative testimony
3Elon Musk's lawsuit is putting OpenAI's safety record under the microscope
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.