원문 캡처 · newscientist.com
원문 캡처 · newscientist.com

수학자이자 과학 커뮤니케이터인 한나 프라이(Hannah Fry)는 오픈AI가 수학 난제 수백 개를 풀었다고 발표한 뒤 수학계가 자신의 역할과 목적을 두고 흔들리고 있다고 말한다. 그는 AI의 과학적 가능성을 인정하면서도, 오픈AI가 수학의 성과를 함께 나누기보다 명성과 영광을 차지하는 데 앞섰다고 비판한다.

프라이는 몇 년 전 대수적 정수론 교수가 “세상은 수학자를 두려워한다. 그 상태를 유지하자”고 경고했던 일을 떠올린다. 당시 교수는 인터넷에서 영상과 팟캐스트를 만드는 일이 수학의 위압적인 신비감을 해친다고 봤다. 프라이는 이제 그 말에 일리가 있었다고 생각하지만, 수학의 신비감을 깬 것은 대중과 소통하는 수학자가 아니라 기계라고 말한다.

논란은 오픈AI가 나비에-스토크스 방정식의 반례를 찾아 방정식이 무너질 수 있음을 증명했다고 발표하면서 커졌다. 이 문제는 클레이 수학 연구소가 2000년 무렵 해결자에게 100만 달러를 약속할 만큼 중요한 난제였다. 프라이는 박사 과정에서 이 방정식을 연구했다. 이 방정식은 뉴턴의 운동 법칙을 유체에 적용한 것으로, 물방울부터 대기와 은하의 가스 흐름까지 설명한다.

방정식에는 유체의 흐름을 가속하는 피드백 항과 이를 누그러뜨리는 점성 항이 있다. 수학자들은 점성이 언제나 흐름의 폭주를 막는지 물어 왔다. 프라이의 설명에 따르면, 여러 수학자 그룹이 AI를 활용해 특수한 사례를 찾으며 문제에 접근했지만 전체 문제를 해결하지는 못했다. 오픈AI는 다른 연구자들이 가까워졌다는 소식을 듣고 AI 에이전트 1만 개를 투입해 88시간 동안 서로 300만 건의 메시지를 주고받게 했으며, 토큰 비용으로 수백만 달러를 들여 폭주하는 사례 하나를 찾았다고 발표했다.

프라이는 증명이 166쪽에 이르고 형식 코드가 수십만 줄에 달해 거의 이해하기 어렵다고 지적한다. 오픈AI가 결과를 공개한 뒤 수학자들이 내용을 검토하고 설명해야 하는 상황이 됐지만, AI 연구소는 다음 과제로 넘어갔다는 게 그의 비판이다. 그는 읽고 싶어 하는 사람이 거의 없는 증명과 수령할 사람이 없을 100만 달러 상금만 남았고, 왜 특정 소용돌이에서만 방정식이 무너지는지 칠판 앞에서 설명할 사람은 없다고 썼다.

프라이는 지난주 공개된 추가 증명들도 리만 가설을 포함한 중요 미해결 문제 수백 개를 해결했다고 주장하며, 검증을 위해 GitHub에 올라왔다고 전한다. 그는 이 상황을 알파고 이후 이세돌(Lee Sedol)이 겪은 위기, 딥블루를 마주한 게리 카스파로프(Gary Kasparov), 그리고 ChatGPT 출시 이후 문학·음악·예술 분야 사람들이 느낀 변화와 나란히 놓는다.

프라이는 AI가 과학에서 세상을 바꿀 가능성을 인정하면서도, 최악의 경우 AI가 지식과 성과를 채굴하는 수단이 될 수 있다고 주장한다. 오픈AI가 수학을 겨냥한 것은 수학의 명성과 존경, 영광도 채굴할 수 있는 대상이 됐기 때문이라는 해석이다. 그는 오픈AI가 협력과 개방을 택할 수도 있었지만, 수학이라는 지적 전통이 취약해진 순간 관리와 보살핌보다 정복을 선택했다고 비판한다.

관련 기사: 오픈AI가 AI 연산 1500만 달러를 들여 나비에-스토크스 밀레니엄 문제를 풀었다, 한나 프라이: AI는 초인적인 일을 할 수 있지만 지게차도 그렇다, 나비에-스토크스 문제에 대한 오픈AI의 수학적 돌파구 이해하기, 오픈AI가 수학 논문 722편을 쏟아냈다, 테런스 타오: AI 기업은 수학에 해를 끼치고 있다, 오픈AI의 밀레니엄 문제 돌파구를 둘러싼 논란, 오픈AI의 나비에-스토크스 해법 진행 상황과 책임, 오픈AI가 한 번에 수학적 발견 722건을 발표했다, 이세돌은 어떻게 알파고와의 대국에서 이겼나, 딥블루가 체스 그랜드마스터를 심리적으로 압도한 방법