(1) Navier-Stokes 문제는 어떤 문제이고, 왜 중요한가?
우선 Navier-Stokes 방정식은 유체역학에서 지배방정식(governing dynamics)에 해당하니 학문적 중요도는 매우 높습니다. 밀레니엄 문제는 (다소 디테일을 생략하면) 이 방정식의 매끄러운(smooth) 전역적 해가 있는지 혹은 반례가 있는지 찾는 것입니다. 이번 OpenAI 연구팀의 성과는 후자에 해당합니다.
(2) 학계의 진척 상황은?
사실 학계에서는 이 문제에 관한 상당한 진척이 대략 3년 전 Diego & Luis 의 연구로부터 나오기 시작했다고 합니다. 뉴욕대의 Tristan Buckmaster 와 Anthropic 소속 연구자 Levent Alpöge 도 Navier-Stokes 와 관련된 오일러 방정식에서 성과를 발표하였습니다. 참고로 그들의 접근 방법은 Terence Tao (2006 필즈메달리스트) 도 “Navier-Stokes 문제도 해결할 가능성이 있다” 할 정도로 높게 평가를 받았습니다 (
링크).
(3) 이번 OpenAI 주장이 얼마나 유의미한가?
만약 증명이 맞다면 수학적으로는 100년 가까이 되는 밀레니엄 문제가 해결된 것이니 매우 역사적인 순간이라 봅니다. 밀레니엄 문제를 형식화한 프린스턴의 Charles Fefferman (1978 필즈메달리스트)은 앞서 이 문제를 해결하는데 크게 공헌한 Luis Martínez-Zoroa 에게 필즈메달 자격이 있다고 언급할 정도니까요. (
링크)
일단 공학적으로 실질적인 가치가 있는지는 다소 회의적입니다. 애초에 현대수학에서 방정식을 풀었다는 건 계산을 빨리 할 수 있는 공식을 찾는다는 개념이 아닙니다. 소위 ‘해가 존재하는지, 만약 존재하면 유일한지’ 라는 정규성(regularity) 이론에 관심 있습니다. 더구나 이번에 발표한 내용은 방정식을 풀 수 없는 반례를 발표한 것입니다.
(4) 거대언어모델을 활용한 난제 해결 시도는 수학에서 어떤 의미가 있는가?
우선 이번 성과는 인공지능이 학계에서 꾸준히 축적해온 방법론을 활용해서 난제를 해결한 것으로, 현대수학의 경계가 정체되지 않고 꾸준히 발전하고 있다는 긍정적인 신호로 보입니다. 또한 Lean 형식화와 에이전트 기술이 형식과학(formal science) 분야에서 그 가치를 입증한 것이니, 다른 난제 해결 가능성도 덩달아 높아진 것입니다.
다만 이러한 난제 해결이 학계에 진정한 의미를 가지려면
인간에 의한 검증(verification) 단계에서 발생하는 병목이 해결되고, 인간이 이해할 수 있는 지식으로 편입하는
정준화(canonicalization) 작업이 필요합니다. 이 부분에 대해서는 제가 예전에 쓴 글을 참조해주시면 좋을 듯 합니다 (
링크).
(5) 수학계의 시선은?
Charles Fefferman 처럼 문제 해결을 반기는 사람도 있는 반면 Terence Tao 처럼 결국 인간 수학자에 의한 이해와 검증, 그리고 위에서 언급한 정준화 과정이 필요하다는 주장도 있습니다. 인공지능이 젋은 경력의 수학자를 대체할 수도 있다는 두려움도 적지 않게 언급되는 듯 합니다.
또한 OpenAI 가 이번 연구 성과를 발표하는 과정에서 연구윤리에 반하는 스캔들이 있다고 합니다. 뉴욕대의 Tristan Buckmaster 이 공개한 서신(
링크) 내용을 보면
GPT 학습 과정에서 해당 수학자들의 데이터를 학습했는지 여부에 대한 답을 듣지 못했다고 합니다. 서신을 보면 OpenAI 측에서 T. Buckmaster 와 공동연구자인 Levent Alpöge (Anthropic 소속)를 저자에서 제외시키라고 요구한 주장도 있습니다. OpenAI 의 이러한 행보는
연구 데이터 누출 및 윤리 위반이라는 심각한 문제를 내포하고 있기에 관련 학계에서는 마냥 긍정적으로만 평가하기엔 아쉬움이 있습니다.
(6) 개인 의견
제 포스트에도 썼지만 저는 인공지능 연구자이자 수학자로서 이번 OpenAI 발표가 매우 고무적이면서도 한 편으로 스캔들로 인한 우려도 같이 안고 있습니다. 연구자들의 아이디어 누출이 수학에서만 발생하지 않고 다른 과학 분야에서도 충분히 발생할 수 있기 때문입니다. 과학 연구자들은 연구 보안과 생산성 사이의 딜레마 가운데 진지하게 이 문제를 생각해볼 필요가 있습니다. 한 편으로 이 사건 때문에 연구자들로 하여금 해외 AI 사용을 금지하는 규정의 근거가 될까봐 우려도 됩니다.
인공지능 기반 과학 연구는 이제 눈 앞의 현실이 되어버렸습니다. 수학에서의 혁신이 다른 분야로 확산되는 것은 시간 문제입니다. 이번 사건을 토대로 AI4Science 분야 정책 방향이 다각도로 진지하게 논의될 필요가 있습니다.
※ 이번 글은 LLM 을 포함한 생성형 인공지능을 일체 사용하지 않고 직접 작성하였음을 밝힙니다.