[사이언스미디어센터] 전문가 의견(V5) <오픈AI, 난제 포함 수학 해법 제시 논문 700여 편 공개>

(엠바고 없음 | 코멘트 5차) 수학과 인류 지성 발전에 미칠 {긍정 | 부정}적 영향

2026. 10. 11.

잘 안 보이실 땐 여기를 눌러주세요.

전문가 의견 26-129(Ver.5) 오픈AI, 난제 포함 수학 해법 제시 논문 700여 편 공개

2026.10.10. **엠바고 없음** 코멘트 추가

> SMCK 등록 기자는 더 많은 정보를 먼저 접하실 수 있습니다. -> 기자 등록하기

배경
- 대형언어모델(LLM) 기업 오픈AI가 6일(현지시간), 난제를 포함해 수학의 여러 주제를 다룬 LLM 생성 논문 700여 편을 공개했다고 밝혔습니다.
  - 논문은 대수, 기하, 미분방정식 등 주제를 포함하며, 약 370가지로 분류돼 있습니다. 깃허브에서 볼 수 있습니다.
  - 오픈AI는 결과 하나를 도출하는 데 프런티어모델 세 시간 분량의 연산이 사용됐다고 밝혔습니다.
  - 오픈A는 논문 생성과 공개에 독립 자문위원회의 조언과 공개 권고 사항을 반영하고 있다고 주장했습니다.
- 어려운 수학 문제 해결에 LLM을 활용할 수 있음을 보여주는 사례지만, 이런 식으로 LLM 생성 논문을 대량으로 공개하는 일이 긍정적인지에 대해서는 논란이 있습니다.
  - 오픈AI는 이런 논문 생성 작업이 인류 지식의 한계를 넓히고 수학의 발전을 촉진하는 데 쓰이길 바란다고 밝혔습니다.
  - 반면, 수학계에서는 LLM 기업이 자체 모델의 벤치마크를 위해 수학 문제를 사용하고 있다는 비판이 나오고 있습니다.

참여 전문가
- 강문진 KAIST 수리과학과 교수 NEW
- 이지운 KAIST 수리과학과 교수
- 서인석 서울대 수리과학부 교수・국가지원연구센터 '수학 난제 해결 인공지능 특화학습 연구센터' 센터장
- 엄상일 기초과학연구원(IBS) 이산수학그룹 CI
- 백형렬 KAIST AI수학대학원장・수리과학과 교수
- 이 주제를 다룬 이전 SMCK 전문가 의견

기자 여러분은 아래 주의사항을 참고해 활용해주시길 부탁드립니다.

엠바고는 없습니다. 자유롭게 활용 가능합니다.
되도록 원문을 그대로 활용해주시길 부탁드립니다.
SMCK를 꼭 인용할 필요는 없습니다. 만약 인용 출처가 필요한 경우, 아래 형식을 따를 수 있습니다.
- "ㅇㅇㅇ(전문가)는 한국과학기술미디어센터에 ㅁㅁㅁ라고 말했다."

*SMCK 홈페이지 | 📌 이런 메일을 계속 받고 싶으시다면: 전문가 의견 구독(기자 등록)

강문진 KAIST 수리과학과 교수

*2026.10.11. 10:25

나비에-스토크스 방정식에 관한 밀레니엄 문제의 해법을 제시하고, 불과 한 달 만에 700편이 넘는 수학 논문을 공개한 것은 경이로운 일입니다. 그러나 이러한 결과가 수학적으로 인정받기 위해서는 상당한 검증 시간이 필요할 것입니다. 자연어로 작성된 증명에 논리적 공백이 없는지뿐 아니라 이를 Lean으로 형식화하는 과정에서 원래의 가정과 결론이 정확히 보존되었는지도 확인해야 합니다.

실제로 최근에는 오픈AI의 나비에–스토크스 논문에서 자연어 증명과 Lean 형식화 사이의 불일치를 지적하는 비판도 제기되었습니다. 또한 AI의 독립적인 연구 능력을 정확히 평가하기 위해서는 문제 선정, 프롬프트 작성, 인간 연구자의 개입 및 최종 검증 과정에 관한 투명한 공개가 필요합니다.

그러나 논의가 증명의 정확성이나 AI의 자율성을 확인하는 데서 끝나서는 안 됩니다. 설령 모든 증명이 엄밀하게 검증되더라도 AI 기업이 자사 모델의 성능을 입증하기 위한 수단으로 수학 난제 풀이를 주도하는 방식은 수학 발전에 부정적입니다. 문제를 해결하는 것과 수학적으로 중요한 질문을 발견하고 새로운 이론을 발전시키는 것은 반드시 일치하지 않기 때문입니다. 오히려 수학에 대한 깊은 이해와 학문적 윤리의식을 갖춘 수학자가 연구를 주도하면서 AI를 활용해 새로운 문제를 찾고 해결하며, 그 과정에서 새로운 개념과 이론을 발견하는 것이 바람직한 방향일 것입니다.

여기서 수학자의 이상적인 역할은 AI가 제시한 증명을 검증하는 데 그치지 않고 핵심 아이디어를 이해하고 기존 이론과 연결하여 새로운 연구로 발전시키는 일이라고 생각합니다. 이러한 협업에서 AI는 수학자의 직관과 탐구 능력을 확장하는 중요한 역할을 수행할 수 있을 것입니다. 수학자가 주도하는 이러한 협업이야말로 AI for Math를 통해 AI가 수학 발전의 중요한 동반자로 자리 잡는 길이라고 생각합니다.

moonjinkang@kaist.ac.kr

이지운 KAIST 수리과학과 교수

*2026.10.10. 09:00 추가

오픈AI가 최근 수학의 여러 난제에 대한 연구 결과를 공개했습니다. 발표된 목록 중 제가 연구하는 확률론과 수리물리학 분야의 결과만 검토해 보았는데, 그 중 대부분은 매우 유명하고 해결 난이도가 높은 것들이었습니다. 이 결과들이 검증되어 수학계에서 받아들여진다면 분명히 수학 분야의 획기적인 발전이라 할 수 있습니다.

현재 상태에서는 AI가 수학 연구에 크게 기여할 수 있다고 생각합니다. 다만, 아직은 AI가 새로운 아이디어의 도입이나 연구 방향의 창출을 해내는 역할을 하고 있기보다는, 지금까지 수학자들이 개발해 온 아이디어와 다양한 연구 결과를 효율적으로 빠르게 활용할 수 있는 도구로써 사용되고 있는 측면이 더 큰 것 같습니다. 구체적인 예로, 이번에 발표된 결과 중 217번 문제는 제가 관심을 가지고 연구하던 것인데, 이 문제는 오래전부터 사람들이 생각해 왔지만 문제 풀이에 접근할 수 있는 방법이 전혀 알려져 있지 않았습니다. 그런데, 올해 7월에 처음으로 문제 풀이가 가능할 수도 있는 아이디어가 제시되었습니다. 이번 오픈AI에서 발표한 논문에서는 이 아이디어에 기반한 분석을 더 심도 깊게 수행하면 217번 문제가 해결된다고 주장하고 있습니다. 나비에-스토크스 문제 풀이의 경우와 유사한 맥락이라 할 수 있겠습니다.

AI가 수학의 발전, 나아가 인류 지성의 발전에 긍정적일지 부정적일지 여부는 지금 논의하기 매우 어렵습니다. 다만, 오픈AI의 이번 논문 공개 방식에는 문제가 있다고 봅니다. 위에서 언급한 217번 문제 관련 논문을 읽어 보았는데, 글이 너무 두서없이 작성되어 있고 표기가 이상한 부분이 많아서, 이를 실제로 이해하고 검증하는 데에 매우 오랜 시간이 걸릴 것으로 생각합니다. 오픈AI가 이에 대한 고려가 없이 수백 편의 논문을 한꺼번에 공개한 것은 분명히 문제가 있는 방식입니다. 오픈AI에서 향후에도 수학 발전에 기여할 의사가 있다면, 이 부분에 대한 개선이 먼저 필요하겠습니다.

jioon@kaist.ac.kr

서인석 서울대 수리과학부 교수・국가지원연구센터 '수학 난제 해결 인공지능 특화학습 연구센터' 센터장

*2026.10.9. 09:00 추가

이번 발표에서는 넓은 수학 분야의 다양한 미해결제들이 해결되었습니다. 다만, 나비에-스토크스 방정식 문제를 해결한 것에 비하면 크게 놀랄 일은 아니라고 평가합니다. 나비에-스토크스 방정식 문제의 해결이 놀라웠던 점은 통상적으로 AI가 가장 못하는 분야로 인식되던 해석학 분야의 난제를 막대한 자본에 기반한 에이전트간의 협업을 통해 해결했기 때문이었습니다. 따라서, 이 모델과 자본, 에이전트를 통해 다양한 분야들의 문제들이 해결된 것은 그 연장선상에서 이루어진, 충분히 예상가능한 일입니다. 또한, 이 문제들 대부분을 ‘인간이 해결하지 못하던 난제’라고 생각할 필요도 없습니다. 인간은 지속적으로 이 문제들을 고민하면서 다양한 결과를 얻고 있었고, 인공지능은 그 결과들을 interpolate하여 인간이 하고자 한 그 다음 단계를 (압도적인 계산력과 사고력을 바탕으로) 시간을 단축시켜서 진행해 준 것으로 보는 것이 정확한 해석일 것입니다. 이는 나비에-스토크스도 마찬가지입니다. 인류는 이 문제에 대해 최근 획기적인 진전을 했고, 인공지능은 이에 기반하여 예를 건설하였습니다. 다만, 확실한 것은 우리는 이제 새로운 국면에 접어들었다는 것입니다.

수학이란 학문이 특별하면서도 외로웠던 이유는 그 어떤 기술의 도움도 받기 힘들었기 때문입니다. 기존에는 그 어떤 최첨단 컴퓨팅 기술도, 수학 연구에 있어서 (예측 등을 위한) 단순 시뮬레이션이나 일부 복잡한 계산을 대신 해주는 수준을 넘어서서 우리를 도와줄 수 없었습니다. 그렇기에 드물게 이러한 기술의 도움을 받아서 해결한 <4색 문제> 같은 것이 오히려 특별한 경우의 취급을 받았습니다. 대부분의 수학 연구에서 수학자들이 기댈 수 있었던 것은 오직 본인의 사고력과 시간뿐이었습니다.

이러한 사람의 역량과 시간은 필연적으로 제한적입니다. 한 수학자의 생애에서 실제로 왕성하게 연구를 할 수 있는 시간은 대단히 짧습니다. 특히나 수학이 발전하면서 우리는 이해하고 공부하는 데 점점 더 많은 시간을 할애해야 했습니다. 그 결과 수학자들은 자신의 연구분야가 아닌 수학은 둘러볼 여유조차 전혀 가지지 못했습니다. (실제로 이번에 공개된 연구들에서 AI가 여러 분야의 지식을 융합하여 해결한 것이 많다는 것은 이러한 인간의 시간 부족이 수학 연구의 실질적 병목이었다는 것을 방증하기도 합니다.) 그리고 수학자의 숫자 또한 우리가 알아가야 하는 영역에 비해 매우 적습니다. 예를 들어 딥러닝의 확률적 알고리즘이 작동하는 수학적 원리에 대해 인류는 전혀 모르고 있지만, 이를 연구하는 수학자는 전 세계에 채 100명도 안 될 것입니다.

그렇기 때문에 대부분의 수학자들은 본인의 생애 안에서 자신이 연구하는 분야의 비약적 발전을 기대하기 쉽지 않았습니다. 마치 고려시대나 조선시대를 살던 사람이 자신의 생애에 국가가 급격히 발전하는 것을 기대하기 힘들었던 것처럼 말입니다.

하지만, 그런 수학자들에게 처음으로 효과적인 도움을 줄 수 있는 기술이 나타났습니다. 필연적으로 수학자 한 명이 인류의 수학 이해 증진에 할 수 있는 기여가 획기적으로 커질 것입니다. 따라서, 이 인공지능 기술은 이제 수학의 발전속도를 비약적으로 증가시킬 것이고, 학문은 번영할 것으로 기대됩니다. 우리는 이제 거대한 기술의 도움을 받으며, 더 중요한 문제와 우리가 모르는 이론 체계를 고민할 수 있을 것이며, 우리가 왜 이 연구들을 하고 앞으로 어떤 길로 나아가야 하는지 더 깊게 들여다 볼 여유가 생길 것입니다. 이러한 것들이 모여, 이제 수학자들은 자신의 생애 안에서 연구 분야의 비약적 발전을 기대할 수 있을 것입니다.

물론 걱정되는 부분도 많은 것은 사실입니다. 그 중 가장 중요한 것은 학계가 건강하게 유지될 수 있도록 하는 평가와 보상 체계의 문제입니다. 현행 평가 체계의 근간이 되는 논문(혹은 수학적 결과)에 대해서, 과거에는 저자들이 100%의 기여를 가진다는 것을 의심할 필요가 없었습니다. 그러나 이제는 그 논문에 저자 외에도 인공지능의 무시할 수 없는 기여가 있을 수밖에 없습니다. 그럼 우리는 그 논문을 통해 저자의 무엇을 얼마나 평가해 줄 수 있는 것인지가 고민될 수 밖에 없습니다. 이는 박사학위 심사, 박사후 연구원 채용, 교수 채용, 정년 보장 심사 등 모든 평가 시스템 전반과 관련한 문제입니다.

그러나 이는 비단 수학의 문제는 아닙니다. 사실 저는 (인공지능이 꽤 오래 어려워하던) 수학이 거의 모든 학문들 중 마지막, 혹은 후반부에야 이 문제를 마주했다고 생각합니다. 지금 집필되는 인문학, 사회과학, 공학, 자연과학의 많은 논문들에 대한 인공지능의 기여는 이미 2025년에도 상당했고 오늘날 그 비중은 더욱 커졌을 것입니다. 이에 비해 수학 논문에 인공지능이 본격적으로 기여를 하기 시작한 것은 고작 3~4개월 전의 일입니다. 따라서 이 평가와 보상 문제에 대해서는 비단 수학뿐만 아니라 전체 학계가 함께 고민해 나가야 할 중요한 문제라고 생각합니다. 수학계는 이미 이런 문제를 겪어왔던 다른 분야들의 현명한 대응을 벤치마킹하면서, 앞으로 건강한 평가 체계가 구축될 수 있도록 노력해야 할 것입니다.

insuk.seo@snu.ac.kr

엄상일 기초과학연구원(IBS) 이산수학그룹 CI

*2026.10.8. 16:00 추가&수정

수학의 여러 분야에 걸친 많은 문제의 결과가 한꺼번에 공개되어, 내용을 꼼꼼히 살펴보기보다는 목록부터 확인하는 분위기입니다. 오래된 유명 난제가 풀렸다고 주장되는 것도 있고, 오랜 추측의 반례가 제시되어 그 추측이 거짓임이 보여진 것도 있으며, 상상하기 힘들었던 새로운 알고리듬이 제시된 것도 있어서 많은 수학자가 놀라워하는 것 같습니다.

수학 애호가로서는 수학의 급격한 발전이 반갑습니다. 다만 이런 난제에 몇 년씩 도전해 오신 분들은 얼마나 허탈할까 하는 생각도 듭니다. 또 수학은 수학자들이 서로 협력하며 문제에 도전하고, 해결되면 깊이 이해하여 새로운 통찰을 얻고, 이를 일반화·추상화하면서 발전해 왔습니다. LLM이 가장 어려운 부분인 문제 해결을 쉽게 해 준다면, 깊은 이해를 거쳐 새로운 통찰에 이르는 과정이 앞으로도 잘 이루어질지 걱정됩니다.

이번 공개는 논문을 포함한 모든 자료를 GitHub에 올리는 방식인데, 논문마다 원본 파일이 있고 수정본도 이전 버전을 보존하는 새 버전으로 기록한다고 하니 후속 논문에서 인용하기에도 좋은, 한층 발전된 방식이라고 평가합니다. 지난 7월에 발표된 cycle double cover 추측의 증명은 OpenAI 직원이 X에 올린 글을 통해 알려졌고, 논문은 OpenAI 홈페이지에, Lean 형식 증명은 GitHub에 따로 공개되었습니다. 그래서 수십 년 뒤 OpenAI 홈페이지가 사라지거나 파일이 지워지면 영영 찾지 못할 가능성이 있었습니다.

이번에 공개된 700여 편의 논문 중 Lean 형식화가 연결된 것은 42% 정도로 절반이 채 되지 않습니다. 나머지는 논문만 있는 상태여서, 오류가 발견될 가능성을 배제할 수 없습니다. 최근 LLM의 발전으로 오류 가능성이 낮을 수는 있겠지만, 아직 검증이 완료되었다고 말하기는 곤란합니다. 실제로 발표가 나온 지 하루가 지난 시점인 10월 8일 오후 2시 20분, OpenAI에서 이 결과 중 3개는 철회한다고 공지하였고 십여 개는 증명을 수정 보완했다고 발표하였습니다.

한편 Lean 형식화가 있다고 해서 곧바로 안심할 수도 없습니다. Lean이 보증하는 것은 Lean으로 읽을 수 있는 명제가 증명되었다는 사실뿐이고, 그 명제가 논문의 주장과 일치하는지는 사람이 읽어서 확인해야 하기 때문입니다. 수학자 사회가 이번 발표를 어디까지 맞는 것으로 받아들일지는 시간이 좀 더 걸릴 것으로 보입니다.

sangil@ibs.re.kr

백형렬 KAIST AI수학대학원장・수리과학과 교수

*2026.10.8.

이번 발표에는 제 연구 분야에서 필즈상급이라고 할 만한 문제들이 여럿 포함되어 있습니다. 나비에-스토크스 방정식 때는 예외적인 사례 하나였지만, 이번에는 수학 전 분야에 걸친 다양한 문제들에 대한 결과입니다. 주요 결과들이 검증된다면 수학계가 받을 충격은 매우 클 것입니다.

다만 제가 읽어본 원고들은 읽기가 힘들었습니다. 내용이 어려워서만은 아닙니다. 예를 들어 정의하지 않은 용어를 먼저 쓰고 정의는 한참 뒤에 나오는 등, 독자가 앞뒤를 오가며 뜻을 확인해야 하는 대목이 많습니다. 논증이 전체적으로 어떤 구조이고 핵심 아이디어가 무엇인지도 잘 드러나지 않습니다. 이런 글은 검증하기도, 소화하기도 어렵습니다.

AI가 기존 연구 위에서 쉬운 마무리만 했을 뿐이라는 평가도 있지만, 꼭 그렇게만 볼 일은 아닙니다. 수학에서는 그 마지막 단계가 가장 어려울 수도 있습니다. 그보다 중요한 것은 무엇을 기존 연구에서 가져왔고 무엇을 새로 했는지 분명히 밝히는 일입니다. 공로를 정확히 가리기 위해서도 필요하지만, 무엇보다 그래야 다른 수학자들이 이 결과를 다음 연구로 이어갈 수 있습니다.

'아무도 없는 숲에서 나무가 쓰러지면 소리가 난 것인가'라는 오래된 철학적 질문이 떠오릅니다. 증명이 맞느냐도 중요하지만, 그것이 우리의 지식이 되는 과정도 그만큼 중요합니다. AI가 증명을 아무리 쏟아내더라도 수학자 공동체 안에서 살아 숨 쉬는 지식이 되지 못한다면, 그 자체로 수학의 진보라고 하기는 어렵습니다.

hrbaik@kaist.ac.kr

(참고) 이 주제를 다룬 이전 SMCK 전문가 의견

한국과학기술미디어센터(SMCK) 소개

한국과학기술미디어센터는 근거 기반의 과학 정보를 언론에 제공하는, 과학계와 미디어 사이의 다리 역할을 하는 독립 비영리 조직입니다. 잘못된 정보와 가짜 뉴스가 넘쳐나는 세상에서, 제대로 된 전문가의 해설과 의견을 빠르고 다양하게 기자들에게 제시하고 이를 체계적으로 아카이빙하는 역할을 합니다.

2025년 7월 이사회를 구성하고(이사장 노정혜 전 한국연구재단 이사장) 센터장(이근영 전 한겨레 과학전문기자)을 선임했으며, 같은해 9월 개소식을 열며 활동을 시작했습니다.

*참고 기사:

SMCK 역할

SMCK는 세 분야 전문가인 과학자, 기관 커뮤니케이터(홍보팀), 기자에게 구체적인 도움을 드리고자 설립됐습니다. 각각 아래와 같습니다.

과학자, 연구자에게는 의견과 해설이 온전한 맥락과 함께 제공되는 안전한 발언 공간이 돼줍니다. 선의를 위해 한 논평이 기사화 과정에서 왜곡되거나 부정확하게 변질될 우려를 줄이는 완충 작용을 합니다.
기관 홍보 담당자에게는 기관의 성과를 기자들에게 보다 객관적이고 정교하게 알리고, SMC 글로벌 네트워크를 통해 영향력을 높일 기회를 제공합니다.
기자에게는 사안을 해석하는 데 도움이 될 치우침 없는 종합적인 정보를 빠르고 풍성하게 제공하고, 이를 통해 기사에서 과학과 기술을 보다 자유롭고 편리하게 활용하도록 돕습니다.

SMCK는 이를 통해, 궁극적으로 근거에 기반해 사안을 합리적으로 판단하고 이것이 정책에까지 반영되는 사회를 만드는 데 기여하고자 합니다.

해외 협력

사이언스미디어센터(SMC)는 2002년 영국에서 최초로 설립됐고 현재 호주와 뉴질랜드, 독일, 스페인, 대만, 아일랜드 등으로 확장됐습니다. 한국은 2025년 12월, 7번째 센터로 합류했습니다. 글로벌 네트워크에 포함된 8개 조직은 엄격한 독립성과 신뢰성이라는 가치를 공유하고 있으며 협력을 통해 주요한 국제 과학 이슈에 공동 대응하고 있습니다.