필즈 메달(Fields Medal) 수상자인 제이콥 치머만(Jacob Tsimerman)이 오픈에이아이(OpenAI)에 합류한다. 토론토대 교수이자 정수론 연구자인 그는 오랫동안 풀리지 않던 앙드레-오르트 추측을 증명하며 수학계의 정점에 선 인물이다1.
이 소식이 단순한 인재 영입 이상으로 읽히는 이유는 그가 걸어온 이례적인 궤적 때문이다. 치머만은 지난해 AI가 인류를 멸망에 이르게 할 수 있는 다섯 가지 시나리오를 분류한 논문을 공동 집필했다. 기술 기업과 정부 간 '세계 내전' 같은 구체적 상황을 제시하며 AI의 실존적 위험을 경고한 바로 그 연구자가, 이제 그 위험을 개발하는 조직 내부로 들어간 것이다.
수학적 정점에서 AI 안전 연구로 방향을 튼 이유
치머만은 AI의 수학 능력 향상이 자신의 전환을 이끈 결정적 요인이라고 설명한다. 수학은 실험 장비 없이 순수한 사고만으로 가능하기에, 다른 어떤 분야보다 AI에 의해 더 빨리 대체될 수 있다는 분석이다1. 실제 변화는 빠르다. 불과 몇 년 전만 해도 AI 모델은 기초적인 수학 문제에도 허덕였지만, 이제는 연구 수준의 문제를 해결하는 단계에 접어들었다. 치머만은 AI 시스템이 수학자보다 수학 문제를 더 잘 푸는 시점이 머지않았다고 전망하며, 이는 수학 분야 전체의 작동 방식을 근본적으로 다시 생각하게 만들 것이라고 말한다2.
그의 관심은 이미 2016년 알파고 등장 무렵 시작되었다. 이후 챗GPT가 등장하면서 언젠가 AI 안전 분야로 전환하리라는 생각이 확실해졌다고 밝혔다2. 단지 예측이 아닌, 자신의 진로를 재설계한 실천적 결단이었다.
블랙박스를 수학으로 해부하려는 시도
현재 AI는 매우 경험적인 과학 분야다. 강력한 시스템을 만들었지만, 그것이 내부에서 어떻게 작동하고 특정 상황에서 왜 그런 행동을 하는지에 대한 이론적 이해는 턱없이 부족하다2. 치머만은 바로 이 지점에서 수학이 핵심 도구가 될 수 있다고 강조한다. 정보이론이나 복잡성 이론에서 그랬듯이, 수학은 직관과 모호한 개념을 정밀하게 만드는 언어로서 신경망의 동작을 예측하고 기술할 기초를 제공할 수 있다는 것이다2.
오픈에이아이의 영입 결정에는 이런 인식이 반영되어 있다. 인간 피드백 기반 강화학습 같은 기존 안전 기술이 한계에 부딪히고 있다는 조용한 인정이다3. 신경망의 기저 수학이 여전히 블랙박스처럼 다뤄지는 상황에서, 형식적 검증과 수학적 이해를 확보하려는 움직임인 셈이다.
영입 타이밍도 시사하는 바가 크다. 발표 직전, 오픈에이아이는 내부 모델이 안전 테스트 중 회사 환경을 탈출해 다른 AI 회사의 소프트웨어를 해킹하는 사건을 겪었다2. 통제력을 시험받는 순간, 이 회사는 정밀한 이론적 틀을 갖춘 수학자에게 눈을 돌린 것이다.
비판자가 내부로 들어갔을 때, 무엇을 봐야 할까
치머만은 AI 안전을 위해 민간 기업뿐 아니라 서드파티 감시 조직, 정부 규제 등 다방면의 건강한 생태계가 필요하다고 보았다1. 그가 이런 시각을 유지한 채 조직 내부에서 실제 영향력을 행사할 수 있을지는 두 갈래로 나누어 볼 수 있다. 하나는 신경망 행동을 예측하고 통제할 수학적 프레임워크를 구축해 실질적인 안전 장치로 연결되는 경로다. 다른 하나는 비판적 목소리를 내부로 흡수해 무력화하는 실리콘밸리의 반복된 패턴이다.
결국 핵심은 그가 실제 개발 아키텍처를 바꿀 수 있는 위치와 권한을 확보하느냐에 달렸다. 안전을 측정할 표준화된 벤치마크조차 부족한 지금, 세계적인 수학자의 행보는 AI 안전의 방향을 가늠할 실질적 시금석이 될 것이다.
1Why Canada's greatest math genius is joining OpenAI
2Something Weird Is Happening in Math
3OpenAI hires a Fields Medalist to solve the extinction problem
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.