AI가 수학자를 대체할까. 이 질문은 흥미롭지만, 핵심을 조금 비껴간다. 테렌스 타오가 주목하는 변화는 대체보다 인지적 마찰의 감소에 가깝다. 수학 연구에서 많은 시간은 큰 아이디어 자체보다 사례 확인, 참고문헌 추적, 계산 변환, 가능한 경로 시험, 보조정리 검토에 쓰인다. AI는 바로 이 반복 작업의 비용을 바꾸고 있다.
그 결과 수학자는 더 많은 “엉뚱한 것들”을 시도할 수 있다. 실패해도 되는 실험의 단가가 낮아지기 때문이다. 이것이 타오가 말하는 AI 수학 도구의 실질적 의미다.
AI 수학 도구는 단순한 챗봇이 아니다
수학용 AI 도구를 “문제를 넣으면 답을 내는 기계”로 이해하면 부족하다. 더 중요한 역할은 연구 과정을 잘게 나누고, 각 단계를 검토 가능한 형태로 바꾸는 데 있다.
예를 들어 복잡한 정리를 작은 보조정리로 분해하고, 어떤 보조정리가 필요한지 식별하며, 가능한 증명 전략을 제안할 수 있다. 자연어로 된 수학적 설명을 Lean이나 Isabelle 같은 증명 보조기에서 다룰 수 있는 형식 언어로 옮기는 것도 중요한 기능이다.
UCLA의 ALPHA 프로젝트가 이런 방향을 잘 보여준다. UCLA 연구팀은 DARPA로부터 3년간 500만 달러를 지원받아 수학 발견·형식화·검증용 AI 도구를 개발한다. 타오도 이 팀에 참여한다.1 ALPHA는 “Accelerated Formal Proof Synthesis with Neuro-Symbolic Automation”의 약자로, 정리 분해, 보조정리 식별, 새로운 증명 전략 생성을 자동화하는 것을 목표로 한다.1
특히 ALPHA는 자연어와 형식 증명 시스템 사이를 정밀하게 변환하는 오픈소스 AI 플랫폼을 지향한다. 또한 Lean과 Isabelle 같은 오픈소스 증명 보조기를 통합해 출력의 정확성을 확보하려 한다.1 핵심 적용 분야는 편미분방정식, 정수론, 복잡도 이론이다.1
무엇이 달라지는가: 시도의 비용이 낮아진다
수학 연구가 느리게 진행되는 이유 중 하나는 큰 문제를 적절한 보조정리로 나누는 일이 어렵고, 각 보조정리를 증명하는 데 높은 전문성이 필요하기 때문이다.1 이 과정은 창의적이지만 동시에 매우 반복적이다. 관련 문헌을 찾아보고, 작은 사례를 계산하고, 여러 접근을 비교하고, 실패한 경로를 버리는 일이 계속된다.
AI가 바꾸는 지점은 여기에 있다. AI가 수학자의 판단을 대신한다기보다, 판단하기 전까지 필요한 탐색 비용을 낮춘다. 덕분에 연구자는 더 많은 후보 경로를 빠르게 시험할 수 있고, 초보자도 이전보다 연구 전선 가까이 접근할 수 있다.
최근 사례도 이런 변화를 보여준다. 영국의 Liam Price는 정규 수학 훈련 없이 ChatGPT의 도움으로 에르되시 문제 #1196 풀이에 기여했다.2 타오의 블로그에 따르면 이 문제는 AI 질의에서 나온 풀이가 계기가 되었고, 기존 문헌에서 명시적으로 쓰이지 않던 마르코프 체인 접근을 드러냈다.3
이 사례를 “AI가 정답을 냈다”로 읽으면 오해다. 더 정확한 해석은 AI가 탐색의 폭을 넓혔다는 것이다. 아이디어를 묻고, 변형을 시도하고, 계산을 확인하고, 낯선 접근을 떠올리는 과정의 장벽이 낮아졌다.
그러나 기준은 낮아지지 않는다
수학에서 그럴듯한 설명은 충분하지 않다. 증명은 맞아야 한다. 그래서 AI 수학 도구의 가치는 생성 능력만으로 결정되지 않는다. 생성된 내용을 사람이 이해하고, 검증하고, 설명할 수 있어야 한다.
타오는 이 점을 분명히 한다. 스탠퍼드 심포지엄에서 그는 성공 기준을 “누군가 그 증명에 대해 발표하고 질문을 받을 수 있는가”로 설명했다.4 즉 AI가 만든 산출물이 연구에 쓰이려면, 결국 수학 공동체가 납득할 수 있는 형태로 해석되고 방어되어야 한다.
ALPHA가 Lean과 Isabelle 같은 증명 보조기와의 통합을 강조하는 이유도 여기에 있다. AI의 제안은 출발점이 될 수 있지만, 최종적으로는 형식 검증과 인간의 수학적 이해를 통과해야 한다.
우리가 배울 점
테렌스 타오가 말하는 AI 수학 도구의 의미는 “수학자가 필요 없어졌다”가 아니다. 오히려 좋은 질문을 만들고, 문제를 작은 단위로 나누고, 결과를 엄격히 확인하는 능력이 더 중요해진다는 뜻이다.
실제로 유용한 태도는 세 가지다.
질문을 작게 나누기
큰 문제를 바로 풀려고 하기보다, 확인 가능한 보조문제와 사례로 분해해야 한다.많이 시도하되 빨리 버리기
AI는 후보 경로를 늘리는 데 강하다. 하지만 모든 경로가 가치 있는 것은 아니므로, 반례와 검증으로 빠르게 걸러야 한다.설명 가능한 결과만 남기기
AI가 제안한 증명이나 계산을 그대로 믿지 말고, 왜 맞는지 스스로 설명할 수 있어야 한다.
결론은 단순하다. AI는 수학 연구의 문턱을 낮춘다. 하지만 수학의 기준을 낮추지는 않는다. 더 많은 사람이 연구 전선에 가까이 갈 수 있는 시대가 온다면, 필요한 것은 더 많은 시도와 더 엄격한 확인이다.
1UCLA team awarded $5 million DARPA contract to develop AI for math advancement
2'It is incredible': How AI is transforming mathematics
3Primitive sets and von Mangoldt chains: Erdős Problem #1196 and beyond
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.