OpenAI는 나비에–스토크스 문제를 어떻게 풀었다고 주장했나?

OpenAI가 나비에–스토크스 방정식과 관련된 밀레니엄 문제를 해결했다고 발표했다. 발표의 핵심은 단순히 “AI가 물의 움직임을 계산했다”는 것이 아니다. OpenAI는 특정한 유체 흐름을 수학적으로 구성해, 유한한 시간 안에 속도가 무한대로 커지는 특이점이 발생할 수 있음을 보였다고 주장했다.

OpenAI의 발표

OpenAI는 내부 시스템이 3차원 비압축성 나비에–스토크스 방정식의 해를 만들었다고 밝혔다. 이 해는 처음에는 정지 상태에서 시작하지만, 시간이 흐르면서 중심에 소용돌이가 형성된다.

소용돌이의 중심부는 점점 더 작아지고, 그 안의 회전 속도와 축 방향 속도는 점점 커진다. OpenAI의 논문에 따르면 특정 시각에 가까워질수록 속도의 최댓값은 무한대로 발산하지만, 전체 운동에너지는 유한하게 유지된다.

OpenAI는 이 결과가 Clay 수학연구소가 제시한 나비에–스토크스 밀레니엄 문제의 ‘해가 붕괴하는 경우’에 해당한다고 설명했다.

‘특이점’이란 무엇인가?

특이점은 유체 전체가 갑자기 사라지거나 모든 곳의 속도가 무한대가 된다는 뜻이 아니다.

OpenAI가 구성한 흐름에서는 아주 작은 영역에 움직임이 계속 집중된다.

• 소용돌이가 차지하는 공간은 점점 작아진다.

• 그 작은 영역 안의 속도는 점점 커진다.

• 특정한 유한 시각에 속도는 무한대로 발산한다.

• 전체 운동에너지는 유한한 상태로 남는다.

쉽게 말하면, 넓은 물결 전체가 폭발하는 것이 아니라 작은 소용돌이에 움직임이 계속 압축되는 구조다.

이때 ‘매끄러운 해가 깨진다’는 것은 속도와 압력이 유한하고 연속적으로 변하는 정상적인 유체 흐름으로 더 이상 이어갈 수 없다는 뜻이다. 현실의 물이 실제로 무한한 속도가 된다는 의미는 아니다.

OpenAI는 어떻게 그런 흐름을 만들었나?

OpenAI가 공개한 논문의 전략은 크게 네 단계로 이해할 수 있다.

1. 수축하는 소용돌이 설계

먼저 중심으로 빨려 들어가며 회전하는 소용돌이를 설계한다. 소용돌이의 반지름은 줄어들고, 축 방향으로는 흐름이 늘어나도록 만든다.

유체가 중심으로 이동하면서 각운동량이 보존되면 회전 속도는 더 커질 수 있다. 동시에 비압축성 조건 때문에 중심에 유체가 계속 쌓이지 않도록 위아래 방향의 흐름을 함께 배치한다.

2. 속도는 커지고 영역은 작아지게 만들기

소용돌이의 크기가 줄어드는 속도와 속도가 증가하는 비율을 정밀하게 조절한다. 이렇게 하면 속도 자체는 무한히 커지지만, 그 속도를 가진 영역의 부피는 더 빠르게 줄어든다.

그 결과 전체 운동에너지는 유한하게 유지하면서도 속도의 최댓값은 무한대로 보낼 수 있다.

3. 미세한 진동 흐름으로 불균형 상쇄

소용돌이만 만들면 나비에–스토크스 방정식에 필요한 외부 힘도 무한대로 커질 수 있다. 그러면 무한한 힘을 집어넣어 무한한 속도를 만든 것처럼 보일 수 있다.

OpenAI는 이 문제를 해결하기 위해 소용돌이 주변에 매우 미세하게 진동하는 여러 흐름을 추가했다. 이 진동들은 각각의 속도 평균은 작지만, 서로 곱해진 운동량의 흐름은 크게 만들 수 있다.

이 운동량 수송이 소용돌이에서 생기는 발산을 상쇄하도록 설계된다. 따라서 유체 속도는 발산하면서도 외부 힘은 매끄럽고 유한하게 유지되도록 구성한다.

4. 바깥쪽 흐름과 연결

마지막으로 이 복잡한 중심부를 바깥의 정상적인 흐름과 부드럽게 연결하고, 공간적으로도 유한한 영역 안에 가둔다.

OpenAI의 정리에서는 초기 속도가 0이고, 외부 힘은 매끄럽고 공간·시간적으로 제한되어 있으며, 속도장은 특이점 직전까지 매끄럽게 존재한다고 제시한다. 하지만 특이점 시각을 지나 전체 운동에너지가 유한한 매끄러운 해로 계속 이어갈 수 없다는 것이다.

AI는 어떤 역할을 했나?

OpenAI는 이 결과를 한 번의 질문에 대한 단일 답변으로 얻은 것이 아니라고 설명했다.

발표에 따르면 OpenAI는 GPT-6 Astra보다 훨씬 더 강력하다고 설명한 내부 모델을 사용했다. 여러 그룹의 에이전트가 나비에–스토크스 문제의 서로 다른 형태를 동시에 탐색했고, 약 10,000개의 에이전트가 참여한 그룹도 있었다.

전체 프로젝트에서 에이전트들은 수백만 건의 메시지를 주고받았다. 이후 Codex를 사용해 여러 에이전트 그룹의 아이디어를 통합하고, 더 정교한 증명으로 발전시켰다고 OpenAI는 밝혔다.

완성된 논리는 Lean이라는 형식 검증 시스템으로 옮겨졌다. 형식 검증은 증명의 각 단계가 정해진 수학적 규칙을 따르는지 컴퓨터가 확인하는 과정이다.

이것은 어떤 의미인가?

이번 발표를 “AI가 나비에–스토크스 방정식의 일반 해법을 찾아냈다”고 이해하면 정확하지 않다.

OpenAI가 주장한 것은 다음에 가깝다.

특정한 매끄러운 외력과 초기 조건 아래에서, 유체 속도가 유한한 시간 안에 무한대로 커지는 특수한 해 하나를 구성했다.

따라서 모든 유체가 이런 식으로 폭발한다는 뜻도 아니고, 일반적인 물이나 공기의 흐름이 곧바로 무한 속도가 된다는 뜻도 아니다.

핵심은 오랫동안 풀리지 않았던 “나비에–스토크스 방정식의 매끄러운 해가 언제까지 유지되는가?”라는 질문에 대해, 적어도 하나의 붕괴 사례를 제시했다는 데 있다.

OpenAI의 공식 발표는 나비에–스토크스 문제에 관한 설명에서 볼 수 있고, 전체 논문은 Finite Time Blowup for Navier–Stokes에서 확인할 수 있다. 문제의 공식 조건은 Clay 수학연구소의 나비에–스토크스 문제 설명에 정리되어 있다.

한 문장으로 요약하면 이렇다.

OpenAI는 AI 에이전트들이 만든 수학적 구성과 형식 검증을 통해, 작은 소용돌이에 속도가 집중되면서 유한 시간 안에 특이점이 생기는 나비에–스토크스 해 하나를 제시했다고 발표했다.