오픈AI, 미공개 내부 모델이 쓴 수학 원고 722편을 깃허브에 공개

무슨 일인가

오픈AI(OpenAI)가 2026년 10월 6일, 아직 공개하지 않은 내부 프런티어 모델이 만들어 낸 수학 결과를 깃허브(GitHub) 공개 저장소 openai/math에 한꺼번에 올렸다.¹² 저장소에는 원고 722편이 서로 관련된 372개 결과군(family)으로 묶여 있으며, 아파치 2.0(Apache-2.0) 라이선스로 배포된다.¹ 오픈AI는 이 모델에 약 4,000개 문제를 던졌고, 결과 하나를 얻는 데 평균적으로 ChatGPT Pro 사고 모드 3시간에 해당하는 연산을 썼다고 밝혔다.¹²

자세히

저장소 안내문에 따르면 대부분의 결과는 같은 절차로 만들어졌으나, 두 건은 예외다. 리만 제타 함수의 영점 없는 영역에 관한 작업과 CM 아벨 다양체(CM abelian varieties)에 대한 호지 추측(Hodge conjecture) 증명이 그것이며, 제타 함수 쪽 원고는 사람이 읽기 쉽게 손질했다고 적혀 있다.¹

목록에서 가장 눈에 띄는 항목은 '준리만 가설(quasi-Riemann hypothesis)'이다. 모든 디리클레 L-함수(Dirichlet L-function)가 실수부 7/8보다 큰 반평면에서 영점을 갖지 않는다는 주장으로, Lean 형식화가 붙어 있다.¹³ 다만 이는 실수부 1/2를 요구하는 리만 가설 자체와는 구별되는 결과라는 설명이 따른다.³ 그 밖에 유리수 위 힐베르트 10번 문제(Hilbert's tenth problem over ℚ), 대칭 말러 추측(Mahler conjecture), 카플란스키 영인자 추측(Kaplansky zero-divisor conjecture)의 반례, 자유군 인자(free group factors)의 동형성, 원주율의 무리성 지수가 2라는 결과 등이 들어 있다.¹³

검증 수준은 결과마다 다르다. 저장소는 "모든 결과에 Lean 형식화가 붙어 있지는 않다"고 밝히며, "형식화되지 않은 결과 가운데 일부에는 문제가 있을 수 있다"고 적었다.¹ 한 분석에 따르면 722편 가운데 162편의 주요 결과에 Lean 증명이 있으며, 결과군 기준으로는 372개 중 235개에 Lean 문서가 연결돼 있다.³⁴ 저장소에는 40쪽 분량의 개요 문서와 열 가지 핵심 결과에 대한 모델의 추론 요약도 함께 실렸다.¹³ 수정 사항은 새 판본으로 기록하고 이전 판본을 그대로 남겨 두는 방식으로 책임을 추적한다.¹

모델은 이름이 없고 공개 시점도 정해지지 않았다. 오픈AI는 이 모델을 책임 있게 공개하기 위한 작업을 진행 중이라고만 밝혔다.² 유나이트AI(Unite.AI)는 이 모델이 GPT-6 아스트라(GPT-6 Astra)보다 상당히 뛰어난 성능이라고 전했다.⁵

맥락, 왜 중요한가

이번 공개는 오픈AI와 수학계 사이의 긴장이 높아진 가운데 나왔다. 사이언티픽 아메리칸(Scientific American)에 따르면 오픈AI는 9월 9일 밀레니엄 문제 중 하나인 나비에-스토크스(Navier-Stokes) 방정식의 해법을 주장했고, 그 직후 테런스 타오(Terence Tao)를 비롯한 필즈상 수상자 25명이 AI 기업의 목표와 수학 분야 사이에 "심각한 불일치"가 있다는 성명을 냈다.⁶ 성명은 AI가 만든 증명의 대량 생산이 수학의 개념적 이해와 통찰을 훼손한다고 주장했다.⁶ 뉴욕대(NYU)의 트리스탄 벅마스터(Tristan Buckmaster)는 앤스로픽(Anthropic) 소속 공동 연구자 레벤트 알푀게(Levent Alpöge)를 공저자에서 빼라는 압박을 오픈AI로부터 받았다고 주장하기도 했다.⁷

이에 고등연구소(Institute for Advanced Study)에 자리를 둔 독립 기구인 수학·인공지능 자문단(Advisory Group on Mathematics and Artificial Intelligence, AGMAI)이 꾸려졌다. 티머시 가워스(Timothy Gowers), 마틴 하이러(Martin Hairer), 에드워드 위튼(Edward Witten) 등 9명으로 구성되며 AI 기업의 자금을 받지 않는다.⁸ 자문단은 9월 29일 600건 넘는 설문 응답을 바탕으로 AI 생성 수학의 책임 있는 공개 지침을 냈다.⁸ 오픈AI는 이번 공개에서 이 자문단과 협의해 원고 수정·인용 규약을 마련했고, 워크숍과 학회, 특별 프로그램에 자금을 대겠다고 밝혔다.² 한 분석은 문제 수와 연산량 추정, 추론 요약, Lean 파일 공개는 지침에 부합하지만 모델 공개와 공동체가 운영하는 저장소 요구는 충족하지 못했다고 평가했다.³ 자문단은 이번 공개가 "완료가 아니라 시작"이라며 수학자들이 스스로 질문을 던지고 접근법을 개발할 자유가 보장돼야 한다고 밝혔다.⁸

반응은 엇갈린다. 알푀게는 이번 공개를 수학 역사에서 가장 중요한 순간이라고 평했고, 샘 올트먼(Sam Altman) 오픈AI 최고경영자는 "발견의 새 시대"라고 불렀다.⁴ 반면 타오는 AI가 만든 증명이 겉보기에 흠잡을 데 없어 보여도 미묘한 오류를 숨길 수 있다고 경고해 왔다.⁴

남은 물음

외부 수학자가 확인한 결과는 아직 하나도 없다.⁴ 형식화되지 않은 560편 안팎의 원고가 어디까지 버티는지, 준리만 가설 같은 굵직한 주장이 동료 검토를 통과하는지가 앞으로의 관건이다.³ 모델 자체를 공개하지 않은 채 결과만 내놓는 방식이 자문단 지침과 어떻게 조화될지도 지켜볼 대목이다.³⁸

참고한 곳

1. GitHub, openai/math README - https://github.com/openai/math ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸ ↩⁹

2. OpenAI, Sharing AI progress in mathematics - https://openai.com/index/sharing-ai-progress-in-mathematics/ ↩ ↩² ↩³ ↩⁴

3. CellCog, OpenAI's 722 AI Math Papers: What's Proved, What's Checked - https://cellcog.ai/blog/openai-math-results/ ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸

4. Latent Space, AINews: Quasi-Riemann-Hypothesis: OpenAI publishes 722 math papers - https://www.latent.space/p/ainews-quasi-riemann-hypothesis-openai ↩ ↩² ↩³ ↩⁴

5. Unite.AI, OpenAI Releases 722 Math Manuscripts From an Unreleased AI Model - https://www.unite.ai/openai-releases-722-math-manuscripts-from-an-unreleased-ai-model/ ↩

6. Scientific American, 25 winners of math's 'Nobel Prize' decry the AI invasion of their discipline - https://www.scientificamerican.com/article/25-winners-of-maths-nobel-prize-decry-the-ai-invasion-of-their-discipline/ ↩ ↩²

7. Startup Fortune, OpenAI drops 722 AI math proofs and mathematicians are not impressed - https://startupfortune.com/openai-drops-722-ai-math-proofs-and-mathematicians-are-not-impressed/ ↩

8. Advisory Group on Mathematics and Artificial Intelligence - https://agmai.org/ ↩ ↩² ↩³ ↩⁴