Claude가 리만 가설에서 67.2%를 달성하기까지: AI 수학 협력의 새 지평

Anthropic unreleased model Riemann hypothesis — 이 키워드가 최근 수학계와 AI 업계를 동시에 울렸다. 아직 출시되지 않은 Anthropic의 연구용 Claude 모델이 150년 난제인 리만 가설의 핵심 논거 하나를 크게 끌어올린 것이다. 증명 자체는 아니다. 하지만 기존 인간 수학의 성과 위에서 예상치 못한 연결고리를 찾아냈다는 점이 중요하다.

리만 가설이란 무엇이고, 왜 중요한가

리만 가설은 1859년 베른하르트 리만이 제기한 추측으로, 소수의 분포를 결정하는 '리만 제타 함수'의 비자명 영점이 모두 특정 수직선(임계선) 위에 존재한다는 내용이다¹. 리만 제타 함수가 0이 되는 각 지점은 소수열에 점점 더 미세한 세부 정보를 제공하며, 이 문제의 증명에는 100만 달러의 현상금이 걸려 있다.

수학자들은 오랫동안 전체 영점 중 몇 퍼센트가 임계선 위에 반드시 존재하는지를 밝히는 데 집중해 왔다. 1914년 하디가 무한히 많다는 사실을 증명했고, 1974년 레빈슨이 1/3을 넘겼으며, 2020년 프랫과 동료들이 41.6%까지 도달했다². 이 지표는 가설의 신뢰도를 간접적으로 높이는 핵심 진전으로 여겨진다.

41.6%에서 67.2%: 무엇이 바뀌었나

Anthropic unreleased model Riemann hypothesis 성과의 핵심은 임계선 위 영점 비율의 하한을 기존 41.6%에서 67.2%로 높인 것이다¹. 리만 가설이 증명된 것은 아니며, 남은 32.8%가 임계선 밖에 있다는 뜻도 아니다. 아직 증명되지 않은 영역일 뿐이다.

이번 발견의 방법론적 의미는 더욱 흥미롭다. Claude는 완전히 새로운 개념을 창안한 것이 아니라, 기존 연구 성과들이 만나지 못했던 지점을 찾아냈다. 구체적으로 Baluyot, Goldston, Suriajaya, Turnage-Butterbaugh의 최근 연구와 Bombieri의 2000년 논문을 결합한 것에 크게 의존한다¹. 1973년 몽고메리가 리만 가설이 참이라는 가정 하에 도입했던 영점 분포 기법들을, 최근 여러 수학자가 그 가정 없이도 사용할 수 있게 되면서 가능해진 연결이었다.

Claude는 Weil에 의해 유도된 이차 형식을 가진 적절한 함수 공간을 형성하고, 이차 형식의 계수에 대한 부등식을 1차 및 2차 모멘트 정보로 표현하는 방식으로 결과를 도출했다¹. 이는 인류 수학이 수십 년간 축적한 이론적 토대 위에서 기존 기법들의 조합 가능성을 AI가 포착한 사례다.

60개 에이전트, 3,100만 토큰, 36시간의 실험

이 결과는 단일 질문에 대한 일회성 답변이 아니다. Claude는 실험 과정에서 650개의 아이디어를 생성했고, 대부분은 실패했다¹. 이후 60개의 하위 에이전트를 가동해 약 1.5일 동안 2,400개의 셸 명령을 실행하고 수백 개의 파이썬 스크립트를 작성했다¹. 에이전트들은 상호 검증을 수행했으며, arXiv에서 54개의 논문을 직접 다운로드해 기존 연구와의 중복 여부도 확인했다¹. 총 출력 토큰은 3,100만 개에 달한다.

인간 개입은 제한적이었다. 연구를 지휘한 Anthropic 소속 비전문가는 Claude에게 "계속해 봐"와 같은 격려 메시지를 보내는 역할을 주로 수행했다². 최종 결과물은 Anthropic 소속 수학자 두 명의 검토를 거쳤고, 오픈 소스 증명 보조 도구 Lean을 사용해 형식화까지 완료했다¹.

우리가 읽어야 할 신호

이 접근법의 이론적 상한은 약 68.2%로 추정되며, 그 너머로 가려면 완전히 새로운 수학적 돌파구가 필요하다는 것이 연구진의 평가다². 이번 방법이 리만 가설의 최종 증명 경로가 되기는 어렵다는 뜻이다.

그러나 Anthropic unreleased model Riemann hypothesis 사례가 보여주는 방향성은 분명하다. AI 모델은 훈련 데이터에 축적된 인간 지식을 예상치 못한 방식으로 재조합할 수 있으며, 이는 단순 계산 도구를 넘어 수학적 발견의 협력자로 작동할 수 있음을 의미한다. 흥미롭게도 Claude 스스로는 처음에 회의적이었다고 Anthropic은 전한다. 자신이 수학 난제에 의미 있는 기여를 할 수 있다고 믿지 않았다는 것이다¹.

지금 이 순간에도 출시되지 않은 모델들이 더 어려운 문제에 도전하고 있을 가능성이 크다. 중요한 것은 개별 성과의 크기가 아니라, AI가 '불가능해 보이는 질문'에 접근하는 방식 자체가 근본적으로 달라지고 있다는 점이다.

참고

¹Learning more about Claude's mathematical capabilities

²Claude Did Not Solve the Riemann Hypothesis. Its 67.25% Result Still Matters