본문 바로가기
성공지식백과 로고성공지식백과

나비에-스토크스 난제 풀었다는 OpenAI 증명, 클레이 연구소 “해결된 것으로 보인다”

OpenAI가 내부 AI 에이전트로 나비에-스토크스 밀레니엄 난제의 증명을 만들었다고 발표했고 클레이 수학연구소는 문제가 해결된 것으로 보인다고 밝혔습니다. 증명이 보인 내용과 외력 조건, 상금 규정이 요구하는 절차, 외력이 있는 방정식의 붕괴를 먼저 연구하던 수학자와의 우선권 논란을 정리합니다.

OpenAIAI 에이전트AI 수학나비에-스토크스
정성준 10분 읽기
공유:
파란색, 청록색, 주황색 곡선이 안쪽으로 감기며 위아래로 길게 늘어나는 소용돌이를 그린 그림. 왼쪽에 inward spiral, 오른쪽 위에 axial stretching 라벨이 붙어 있다.
OpenAI가 2026년 9월 8일 나비에-스토크스 발표문에 실은 소용돌이 그림. 주황색은 빠른 회전, 청록색은 느린 회전을 나타내며 안쪽으로 감기는 나선과 축 방향으로 늘어나는 흐름을 보여 줍니다. · OpenAI

클레이 수학연구소는 2026년 9월 11일 발표문에서 나비에-스토크스 문제가 해결된 것으로 보인다(apparently been settled)고 밝혔습니다. 사흘 전인 9월 8일 OpenAI는 내부 AI 시스템이 이 밀레니엄 난제의 증명을 만들었다고 발표했습니다. 정지해 있던 유체에 알맞은 매끄러운 힘을 가하면 에너지는 일정한 한계 안에 머무는데 속도는 유한한 시간 안에 한없이 커질 수 있다는 증명입니다.

다만 클레이 연구소는 아직 해결을 공식 확정하지 않았습니다. 연구소는 성과를 평가하고 공로를 누구에게 돌릴지 정하는 절차를 일부러 서두르지 않겠다고 했습니다. OpenAI 발표 전날 밤에는 외력이 있는 방정식의 붕괴를 먼저 연구하던 수학자 측이 자기 결과와 함께 OpenAI와 나눈 대화 경위를 공개하면서 우선권 논란도 불거졌습니다.

약 90년 동안 풀리지 않은 질문

나비에-스토크스 방정식은 뉴턴의 운동 제2법칙(F=ma)으로 유체의 움직임을 설명합니다. 유체를 분자 하나하나로 따지지 않고 연속된 물질로 다루며 항공기 설계, 일기 예보, 혈류 연구에 쓰입니다. 1934년 장 르레(Jean Leray)가 일반화된 의미의 해가 존재한다는 것을 증명했지만 그 해가 늘 매끄럽게 유지되는지는 답이 나오지 않았습니다.

구체적으로는 3차원 비압축성 유체가 매끄럽게 움직이기 시작했을 때 유한한 시간 안에 속도가 한없이 커지는 특이점이 생길 수 있는지가 문제였습니다. 움직임을 부드럽게 만드는 점성이 있는데도 이런 붕괴가 일어난다면 그 지점에서는 방정식이 유체를 설명하지 못하게 된다고 OpenAI는 설명했습니다.

클레이 수학연구소는 2000년 이 문제를 100만 달러 상금이 걸린 밀레니엄 문제 7개 가운데 하나로 정했습니다. 찰스 페퍼먼(Charles Fefferman)이 쓴 공식 문제 설명은 네 명제 가운데 하나를 증명하도록 합니다. A와 B는 해가 언제나 존재하고 매끄럽다는 명제이고 C와 D는 매끄러운 해가 끝까지 이어지지 못하는 예가 있다는 명제입니다. A와 C는 3차원 공간 전체를 다루고 B와 D는 같은 모양이 반복되는 주기 공간을 다룹니다.

OpenAI 논문이 증명했다고 밝힌 것

OpenAI가 공개한 166쪽 논문은 C와 D를 증명했다고 밝힙니다. 점성 계수가 양수이기만 하면 그 값과 상관없이 처음 속도가 0인 유체에 매끄러운 외력을 가해 해를 만들 수 있다는 내용입니다. 이 해는 운동 에너지가 끝까지 일정한 한계 안에 머무는데도 유한한 시간 안에 속도가 한없이 커집니다. 외력은 한정된 공간과 시간 안에서만 작용하며 논문은 같은 구성을 주기 공간으로 옮겨 D도 성립한다고 설명합니다.

이 해는 안쪽으로 나선을 그리며 빨려 들어가고 위아래로 점점 길게 늘어나는 소용돌이입니다. 중심부는 좁아지면서 빨라지지만 에너지는 유한하게 유지됩니다. OpenAI는 사람이 무한한 힘을 직접 넣지 않고 유체의 움직임만으로 붕괴가 일어나게 하는 부분이 기술적으로 어려웠다고 밝혔습니다. 가속도, 압력 기울기, 운동량 전달, 점성에 해당하는 항이 모두 커지면서도 정밀하게 상쇄돼야 외력이 끝까지 매끄럽게 남습니다.

외력이 들어간 증명과 문제 조건

이번 증명에는 외력이 들어갑니다. 공식 문제 설명에서 해의 존재를 묻는 A와 B는 외력을 0으로 두지만 해의 붕괴를 묻는 C와 D는 매끄러운 외력을 허용합니다. C에서는 외력과 그 모든 도함수가 거리와 시간이 커질수록 빠르게 줄어들어야 하고 주기 공간을 다루는 D에서는 시간이 지날수록 빠르게 줄어들어야 한다는 조건이 붙는데 한정된 범위에서만 작용하는 OpenAI의 외력은 이 조건을 만족합니다.

외력이 전혀 없는 경우에도 유체가 스스로 붕괴하는지에는 이번 증명이 답하지 않습니다. 수학자 테런스 타오(Terence Tao)는 9월 7일 블로그 글에서 외력 없이도 이런 붕괴를 만들 수 있을 것이라는 기대가 널리 퍼져 있다고 썼습니다.

에이전트 투입 88시간 만에 나온 증명

OpenAI는 증명을 만든 모델을 공개하지 않았습니다. GPT-6 Astra보다 훨씬 뛰어난 내부 모델이며 8월 28일 학습을 시작했고 지금도 학습이 이어지며 성능이 계속 오르고 있다고 밝혔습니다. 발표문에 적힌 경과는 아래와 같습니다.

날짜(2026년)OpenAI가 밝힌 경과
8월 28일새 내부 모델 학습 시작
9월 1일밀레니엄 문제 두 개가 풀렸다는 소문을 듣고 남은 밀레니엄 문제 전부에 에이전트 투입
9월 5일첫 에이전트 투입 약 88시간 뒤 나비에-스토크스 증명 도달
이후 17시간GPT-6 Astra로 Lean 형식화와 검증
9월 6일전체 프로젝트와 Lean 검증 완료
9월 8일논문과 Lean 형식화 공개

에이전트들은 캐시해 둔 인터넷 사본을 읽고 코드를 실행할 수 있었으며 같은 그룹 안에서 서로 소통할 수 있었습니다. OpenAI는 그룹마다 문제의 다른 변형을 맡겼고 나비에-스토크스에서는 A·B 방향과 C·D 방향을 서로 다른 그룹에 줬습니다. 비교적 쉬운 문제로 함께 맡긴 오일러 방정식(점성 항을 뺀 유체 방정식)에서 100개 가까운 에이전트가 약 50시간 만에 외력 없는 붕괴를 증명하자 OpenAI는 다른 밀레니엄 문제에 쓰던 에이전트를 나비에-스토크스로 옮겼습니다. 여러 그룹에서 나온 쓸 만한 통찰은 Codex로 정리해 후속 프롬프트로 넣었습니다.

증명을 찾은 그룹에서는 동시에 작동하는 에이전트가 1만 개 수준이었습니다. 나비에-스토크스를 푸는 동안 에이전트들은 메시지 270만 건을 주고받았고 출력 토큰 약 1,300억 개를 썼습니다. 시도한 문제 전체로는 메시지 490만 건과 출력 토큰 약 3,000억 개입니다. 퀀타 매거진은 OpenAI의 세바스티앙 부벡(Sébastien Bubeck)이 계산 비용을 수백만 달러로 추산했다고 전했습니다.

클레이 연구소가 밝힌 것과 남은 절차

클레이 연구소의 9월 11일 발표문은 OpenAI를 직접 언급하지 않았습니다. 나비에-스토크스 문제가 해결된 것으로 보인다는 발표를 접하며 세계 수학계의 설렘을 함께 나눈다고 적었습니다. 이번 성과에 담긴 혁신이 분석되고 검토되면서 인간의 새로운 이해가 퍼져 나가기를 바란다고도 했습니다.

성과를 평가하고 공로를 배분하는 절차는 상금 규정에 정해져 있습니다. 연구소는 이 절차를 일부러 서두르지 않겠지만 진행 상황은 알리겠다고 밝혔습니다. 밀레니엄 문제 페이지에서 나비에-스토크스 방정식은 다른 미해결 문제와 구분된 진행 중(Active) 항목에 올라 있습니다.

상금 규정에 따르면 연구소는 해법을 직접 제출받지 않습니다. 연구소가 해법을 검토하려면 해법이 자격을 갖춘 학술 매체에 실리고 게재 뒤 최소 2년이 지나야 하며 세계 수학계의 폭넓은 인정도 받아야 합니다. OpenAI는 이번 결과로 상금을 청구할 생각이 없다고 밝혔습니다.

먼저 공개된 오일러 결과와 우선권 논란

OpenAI 발표 전날인 미국 동부 시간 9월 7일 자정 직전 뉴욕대(NYU) 수학자 트리스탄 버크마스터(Tristan Buckmaster)가 결과 세 편을 공개했습니다. Anthropic 직원인 레벤트 알푀게(Levent Alpöge)와 함께 매끄러운 외력이 있는 다공성 매질 방정식, 부시네스크 방정식, 3차원 비압축성 오일러 방정식에서 유한 시간 붕괴를 증명했다는 내용입니다. Lean 형식화 코드도 같이 올렸습니다.

버크마스터는 성명에서 이 결과가 디에고 코르도바(Diego Córdoba)와 루이스 마르티네스-소로아(Luis Martínez-Zoroa)가 여러 해 동안 연구해 온 방법을 출발점으로 삼아 대형 언어 모델(LLM)의 도움으로 끝까지 밀어붙인 것이라고 밝혔습니다. 성명에 따르면 두 사람의 공동연구는 소속 기관과 무관한 개인 협업이었고 연구에는 Claude와 Codex 등을 썼습니다. 점성 항을 약하게 바꾼 나비에-스토크스 변형(hypodissipative)에서도 붕괴를 얻었다고 보지만 Lean 검증이 끝나지 않아 공개하지 않았다고 했습니다.

OpenAI는 9월 1일 들은 소문이 알푀게·버크마스터와 관련된 것이었음을 나중에 알았다고 밝혔습니다. 외력이 있는 오일러 방정식 결과에서는 두 사람의 우선권을 인정했습니다. 동시에 연구진과 에이전트가 두 사람이 공개하기 전까지 어떤 방법으로도 그 작업을 보지 못했고 증명 방식도 크게 다르다고 했습니다. OpenAI가 증명한 오일러 결과는 외력이 없는 경우입니다.

버크마스터는 OpenAI가 택한 경로를 문제 삼았습니다. 매끄러운 외력으로 C·D에 접근하는 경로는 코르도바와 마르티네스-소로아가 열었고 자신과 알푀게가 조용히 택한 것이며 자신이 아는 한 이 경로를 연구하는 사람은 거의 없었다고 썼습니다. 9월 6일 OpenAI 측과 통화하면서 외력이 있는 증명이라는 말을 들었을 때 강한 경고 신호로 받아들였다고 했습니다. 프로젝트 내내 초안을 넣어 온 Codex 세션이 모델 학습에 쓰였는지도 물었지만 답을 듣지 못했다고 밝혔습니다. 한편 그는 OpenAI의 증명을 직접 보지 못했으며 누군가를 비난하려는 것도 아니라고 적었습니다.

OpenAI 발표문의 데이터 관련 문장은 게시 뒤 바뀌었습니다. 9월 8일 보관된 원문에는 가능성은 낮지만 두 사람의 제품 사용에서 나온 비식별 데이터가 모델 개선에 보탬이 됐을 수 있다는 점을 배제할 수 없다고 적혀 있었습니다. 현재 글에는 조사를 거쳐 발표 전 두 달 동안 버크마스터가 Codex에 입력한 프롬프트가 학습을 포함해 어떤 방식으로도 이 시스템에 영향을 줄 수 없었음을 확인했다는 문장이 들어가 있습니다. 이 내부 모델은 이전에 사전 학습한 모델 위에 대규모 강화학습을 더해 만들었다고 덧붙였습니다.

저자 표기를 두고는 양쪽 설명이 엇갈립니다. 버크마스터는 9월 6일 통화에서 자신이 단독으로 나비에-스토크스 결과를 정리한 논문을 쓰는 안을 제안받았고 부벡이 알푀게를 저자에서 빼길 원했다고 적었습니다. 부벡은 X에서 알푀게 자신의 연구에서 저자 자리를 빼라고 한 적은 없다고 밝혔습니다. OpenAI의 증명을 다시 쓰는 논문에 Anthropic 직원이 저자로 들어가는 것이 부적절하다고 봤다는 설명입니다. 통화 중 경력을 언급한 자신의 발언은 매우 잘못된 단어 선택이었다며 사과했습니다.

아직 확인되지 않은 부분

이번 증명은 공개된 지 열흘이 채 되지 않았습니다. 9월 17일 확인 기준으로 결론이 나지 않은 부분은 아래와 같습니다.

논문은 OpenAI 웹사이트에 올린 원고이며 학술지 심사를 거쳤다는 발표는 없습니다. 클레이 규정은 게재 뒤 최소 2년을 요구하므로 상금 심사의 결론은 빨리 나오기 어렵습니다. 공로를 누구에게 돌릴지도 연구소가 규정에 따라 판단할 부분으로 남아 있습니다.

Lean 형식화에도 따로 확인할 부분이 있습니다. 퀀타 매거진은 Lean으로 증명한 명제가 수학자들이 원래 증명하려던 명제와 논리적으로 같은지는 여전히 사람이 확인해야 한다고 설명했습니다. OpenAI는 Lean 저장소에 독립 검증용 Comparator 과제를 함께 올렸고 과제의 문제 진술은 구글 딥마인드 Formal Conjectures 프로젝트의 나비에-스토크스 형식화를 가져와 고쳐 썼다고 밝혔습니다.

증명에 쓴 내부 모델은 공개되지 않아 외부에서 같은 과정을 다시 실행해 볼 수 없습니다. 에이전트 수, 소요 시간, 토큰 사용량은 모두 OpenAI가 스스로 밝힌 수치입니다.

앞으로 지켜볼 지점

클레이 연구소는 평가 진행 상황을 알리겠다고 했습니다. 수학자들이 166쪽 논문을 읽고 Comparator 과제로 Lean 증명을 따로 확인한 결과가 나오면 이번 증명이 받아들여질지 판단할 근거가 쌓입니다. 버크마스터와 알푀게가 공개를 미룬 나비에-스토크스 변형 논문과 외력 없는 나비에-스토크스의 붕괴 여부도 지켜볼 대목입니다.

버크마스터가 던진 질문 가운데 하나는 AI 서비스에 넣은 미공개 연구가 모델 학습에 쓰였는지였습니다. 발표 전 두 달 동안 버크마스터가 Codex에 넣은 프롬프트가 이 시스템에 영향을 줄 수 없었다는 답은 OpenAI가 자체 조사로 내놓은 결론입니다. 발표 전 연구 초안을 AI 도구에 넣고 있다면 입력한 내용이 모델 학습에 쓰이는지 서비스 설정과 약관을 먼저 확인해 두는 편이 안전합니다.

함께 읽으면 좋은 기사

출처

  1. Navier-Stokes AnnouncementClay Mathematics Institute · 발행 · 확인
  2. The Millennium Prize ProblemsClay Mathematics Institute · 확인
  3. Rules for the Millennium Prize ProblemsClay Mathematics Institute · 확인
  4. Existence and smoothness of the Navier–Stokes equationClay Mathematics Institute (Charles L. Fefferman) · 확인
  5. On the Navier–Stokes Millennium Prize ProblemOpenAI · 확인
  6. On the Navier–Stokes Millennium Prize Problem (2026-09-08 보관본)Internet Archive · 확인
  7. Finite time blowup for Navier–StokesOpenAI · 확인
  8. Finite time blowup for the Euler equationOpenAI · 확인
  9. openai/NavierStokesAndEulerOpenAI (GitHub) · 발행 · 확인
  10. Comparator challengesOpenAI (GitHub) · 확인
  11. Today, Levent Alpöge and I have made public three resultsTristan Buckmaster (Mastodon) · 발행 · 확인
  12. Today, Levent Alpöge and I have made public three results (statement)Tristan Buckmaster (NYU Courant) · 확인
  13. I would like to clarify a few thingsSébastien Bubeck (X) · 발행 · 확인
  14. Finite time blowup with smooth forcing term for the incompressible porous medium, Boussinesq, and incompressible Euler equationsTerence Tao (What's new) · 발행 · 확인
  15. AI Has Solved One of Math’s $1 Million Millennium Prize ProblemsQuanta Magazine · 확인