수학 2.0은 다음 세대 수학자를 어떻게 길러낼까?

2026년 10월 20일

수학 2.0의 새로운 수학자는 누가 될 것인가?

익명의 박사과정 학생

이 글은 박사과정을 고려하거나 밟고 있는 사람, 박사후연구원 자리를 찾는 사람을 위한 연재의 일부다. Proofs and Prompts는 지원 마감이 다가오는 시기에 맞춰 10월 19일부터 23일까지 진로 지침과 토론, 수학 분야의 미래에 관한 추측을 담은 글을 싣는다. 각 글은 독립적으로 작성됐으며 글쓴이의 견해만 반영한다. 연재 글 전체 보기

수학계의 미래를 만들어가는 수학자들에게,

나는 수학 박사과정 학생이다. 얼마 전까지만 해도 학계에서 연구 경력을 쌓을 생각이었다. 수학을 깊이 사랑했고, 그 마음으로 대학원에 진학했다. 하지만 박사학위를 마친 뒤 학계를 떠나기로 했다. 이 결정을 내리며 마음이 아팠고, 그 이유를 설명하고 싶다.

이 결정은 고용 안정성 때문도, 인공지능(AI)이 나보다 수학을 더 잘할 수 있어서도 아니다. 이 직업이 내가 알던 모습과 전혀 다른 무엇으로 바뀌고 있다는 확신이 커지고 있기 때문이다. 10월 6일 오픈AI가 논문을 대량 공개한 일은 이런 확신을 더 키웠다. 상업 기업 하나가 학문 분야 전체를 빠르게 바꾸고 흔들 수 있다는 점은 두렵다. 학계에 있는 사람이라면 누구나 우려해야 한다. 하지만 기존 수학자들의 반응은 더욱 마음을 불편하게 했다. 10월 6일 공개에 다양한 반응이 있었지만, 수학자들이 이를 반기고 기뻐하는 모습을 보는 것은 이해하기 어려웠다. 많은 사람이 AI가 어려운 계산, 기술적 보조정리, 그 밖의 지루하다고 여겨지는 수학 연구의 부담을 덜어줄 가능성을 반긴다. 이들은 처음 수학자가 되려 했을 때의 경험을 잊은 것일까?

내가 찾아온 수학

나는 기술적인 작업을 사랑한다. 보조정리나 아이디어 하나를 붙들고 며칠, 몇 주, 몇 달을 보내도 성과가 없는 시간을 좋아한다. 문제를 푸는 데 실패하고, 머리를 식히러 산책하고, 잠을 잔 뒤 새로운 생각을 떠올리고, 다시 같은 과정을 반복하는 일을 좋아한다. 해법의 윤곽과 그 해법이 왜 그런 형태일 수밖에 없었는지를 천천히 깨닫는 순간도 좋다. 무엇보다 계속 실패하는 과정에서 형성되는 직관을 소중히 여긴다.

이런 일은 더 흥미로운 결과를 증명하기 전에 넘어서야 할 불쾌한 장애물이 아니다. 내가 수학자가 되고 싶었던 이유 자체다. 수학자들이 기술적 작업의 부담에서 벗어나는 일을 말하거나, 앞으로 그런 작업을 하지 않아도 되는 미래를 반길 때면, 경력 초기에 있는 사람에게 이런 노동이 어떤 의미인지 알고 있는지 묻게 된다. 나는 이 과정을 독립적인 연구자가 되는 데 필요한 능력을 기를 기회로 여겼다.

이런 고투는 수학 교육에 우연히 따라붙는 일이 아니다. 교육이 이루어지는 주된 방식이다. AI가 이제 이런 작업을 상당히 잘 수행하는데도, 수학계가 교육의 위기에 어떻게 대응할지에 관해 내놓은 논의는 놀라울 만큼 적다.

수학 2.0은 정말 바라는 미래인가?

테렌스 타오(Terence Tao)는 열린 문제를 푸는 일에서 벗어나 더 포괄적인 접근을 강조하는 새로운 수학의 방식, 수학 2.0을 제안했다. 그 구상에는 설명, 개념적 이해, 새로운 원리의 발견, 수학적 틀의 개발, 그리고 점점 더 유능해지는 AI 시스템이 만들어낼 방대한 수학 지식의 종합이 포함된다. 물론 이런 활동은 가치가 있으며 이미 수학 연구에서 중요한 부분이다. 하지만 아직 다뤄지지 않은, 당연해 보이는 질문을 하고 싶다. 내가 직업 생활 내내 이런 활동을 하고 싶지 않다면 어떻게 되는가?

나는 기계가 만들어낸 수학 결과의 양이 점점 늘어나는 가운데 이를 정리하고 해석하고 선별하려고 대학원에 온 것이 아니다. 기법을 배우고, 나만의 이해를 발전시키며, 그 기법으로 전에 알지 못했던 것을 발견하고 싶어서 왔다. 논증을 이해하는 것과 스스로 논증을 발견하는 것에는 분명한 차이가 있다. 연구 방향을 선별하는 것과 그 방향을 만들어내는 과정을 직접 겪는 것도 다르다.

수학 2.0이 지금 상상할 수 있는 수준을 넘어 분야의 발전을 가속하리라는 점을 부정하지 않는다. 그러나 이런 활동이 어려운 문제를 독립적으로 푸는 일을 사랑해 수학에 들어온 사람들에게도 매력적일까? 수학 지식을 해석하고 종합하고 전달하는 일을 중심에 둔 직업도 가치가 있을 것이다. 하지만 독립적인 발견이 부차적인 활동이 된다면, 그것은 내가 들어오려 했던 직업이 아니다. AI가 만든 지식과 이해를 얻기 위해 인간이 직접 경험하며 얻는 충족감을 포기해도 되는가? 수학 지식을 보존하는 일과 수학을 인간에게 충족감을 주는 지적 활동으로 보존하는 일은 분명히 다르다. 지금 상황대로라면 전자는 이루고 후자는 외면하게 될 것이다. 어느 쪽이 본질적으로 더 낫다고 말하려는 것은 아니다. 다만 두 경험은 근본적으로 다르다.

수학 2.0의 수학자는 누가 길러내나?

수학의 제안된 미래에는 내 개인적인 불만보다 더 우려스러운 문제가 있다. 다음 세대 수학자를 구체적으로 어떻게 길러낼 것인가?

경력 있는 연구자에게는 기존 정리를 이해하는 능력보다 훨씬 가치 있는 것이 있다. 직관과 판단력, 취향, 어떤 질문을 추구할 가치가 있는지 아는 감각이다. 바로 이런 능력 덕분에 AI를 효과적으로 활용할 수 있다. 어떤 아이디어가 유망한지, 더 큰 가능성을 암시하는지 알고 있으며 새로운 연구 방향을 세우는 방법도 안다. 이런 능력은 어디서 생겼을까? 성공한 증명을 읽거나 아이디어에 관한 설명을 듣는 것만으로 길러졌을 것 같지는 않다. 아마 어려운 문제를 붙들고 오랜 시간 생각하면서 생겼을 것이다. 이제 외면하려는 활동들이 바로 기존 수학자들을 지금의 모습으로 만든 것이다. 그 활동을 통해 수학자가 되는 법을 배웠다. AI 시스템이 이제 그 일을 대신할 텐데, 수년 또는 수십 년의 경험을 쌓은 사람에게는 매력적인 제안일지 모른다. 그러나 학생들에게는 그 감각이 없다. 그렇다면 학생들은 어떻게 이를 익히는가? 기술적 이해 없이 좋은 취향과 직관을 어떻게 얻는가? 증명에 실패해 본 적이 없는데 유망한 증명 전략을 어떻게 알아보는가? 연구를 직접 수행하는 어려움을 겪지 않고 연구 프로그램을 이끄는 법을 어떻게 배우는가?

타오도 지적 능력의 퇴화 가능성을 우려하고, 교육에서 생산적인 고투를 보존하는 일이 중요하다고 강조한 바 있다. 새로운 결과가 증명됐다는 데만 기뻐할 것이 아니라 이 우려에 대응하는 일이 더 필요하다. 대학원 교육에서 독립적인 문제 해결을 보존하는 것이 답일 수도 있다. 하지만 그것만으로 충분해 보이지 않는다. AI가 문제를 대신 풀어줄 수 있는데, 왜 독립적인 기술 작업과 고생을 통해 능력을 길러야 하는가? 더 중요한 질문은, 학생들이 독립적으로 고생하며 능력을 키운 뒤 그 능력을 AI에 맡기는 직업에 들어가리라고 정말 기대하는가 하는 점이다.

이 문제를 제쳐두더라도, 대학원에서 독립적으로 고생하는 것이 제안된 해법이라면 학생들이 왜 그런 훈련을 받으려 해야 하는가? 동료들이 AI를 이용해 정교한 결과를 여럿 내는 동안, 학생들이 수년간 자기 아이디어를 발전시키도록 허용될까? 독립적인 연구에서 나오는 구체적인 성과가 훨씬 적더라도, 채용위원회와 연구비 지원 기관은 그 과정에서 얻은 지적 성장을 가치 있게 여길까? AI 시스템의 능력이 계속 높아지는 상황에서 성공적인 대학원생을 어떻게 정의할 수 있을까? 앞으로 조직과 해석, 선별을 중시한다고 해도, AI가 몇 달 뒤에는 그 일마저 할 수 없으리라고 어떻게 장담할 수 있을까?

이 질문들에 만족스러운 답이 있을 수도 있지만, 이에 대응하는 방법을 제시한 사람은 아직 없다. 수학 2.0은 수학 1.0 아래에서 훈련받은 수학자들이 축적한 전문성에 크게 의존하는 듯하다. 그러나 지속 가능한 직업은 이미 버린 체계에서 길러진 전문성에 의존할 수 없다.

미래의 수학은 어떤 학생을 끌어들일까?

수학 2.0에 적합한 훈련 체계를 마련했다고 가정해보자. 그 직업은 어떤 사람들을 끌어들일까? 나는 어려운 문제를 풀고 그 문제 해결 과정을 즐겨 이 분야에 들어왔다. 미래의 수학이 AI가 만든 결과를 해석하고, 지식을 정리하며, 자동화된 연구를 이끄는 일이 된다면 왜 학계에 남아야 할까?

이런 활동에서 보람을 느끼는 사람들이 수학 2.0에 들어올 수는 있다. 하지만 그 세대도 이전 수학자들과 같은 동기를 갖게 될까? 앞으로의 수학이 의존하는 분야에 깊은 기술적 이해를 쌓고 싶어 하는 사람들을 수학 2.0이 끌어들일까? 훈련 문제와 인재 유입 문제는 서로 얽혀 있다. 기술적인 문제 해결의 가치를 낮추면 전문성을 기르는 과정이 약해질 수 있고, 그 전문성을 쌓는 일을 가장 즐기는 사람들을 멀어지게 할 수도 있다. 나는 이 점을 심각하게 우려한다.

강력한 AI 시스템으로 무엇을 이룰 수 있을지 상상하는 데 열의를 보이는 만큼, 이 새로운 직업이 어떤 수학자를 길러낼지 이해하는 데도 열의를 보여야 한다. 이미 수학자가 된 사람의 관점에서 수학의 미래를 설계하고 있지만, 미래의 수학자는 누가 될 것인가? 그들이 기존 수학자들의 유산을 이어가기를 바라는가?

여전히 수학을 사랑하는 사람의 경고

수학은 예전과 같지 않을 것이다. 내가 연구하고 그 안에서 충족감을 찾던 방식이 더는 유지되지 않으리라는 점을 안다. 이런 기술을 쓰지 말라고 요구하는 것도, 기술이 제공하는 기회를 무시하자고 제안하는 것도 아니다. 새 기술을 쓰려는 열의가 현재 훈련 중인 사람들의 열망을 반드시 반영하는 것은 아니라는 점을 알아달라는 것이다.

최근 한 수학자가 10월 6일 공개를 두고 과학 혁명이 일어나고 있는 분야를 공부하고 싶지 않다는 것은 “역설적”이라고 말하는 것을 들었다. 그런 관점은 내가 수학을 하는 이유를 완전히 놓친다. 많은 대학원생과 기존 수학자들 가운데도 같은 생각을 하는 사람이 있으리라고 본다. 이 미래가 흥미로울 수는 있다. 하지만 우리 가운데 일부는 이 미래를 낙담스럽고 우려스럽게 여긴다. 여러분은 깊이 관심을 둔 문제의 답이 나와 그 결과로 개념적 틀을 개발하고 AI가 만든 방대한 결과를 해석할 수 있다는 점을 반길 수 있다. 우리 가운데 일부는 직접 문제를 붙들고 고생하는 인간적인 경험 때문에 수학에 들어왔다. 수학 2.0이 놀라운 발전과 이해의 시대를 열 것이라고 생각할 수도 있다. 그럴지도 모른다. 하지만 누가 여러분의 뒤를 이을까? 여러분이 가진 전문성을 어떻게 다시 길러낼 수 있을까? 우리도 이 새로운 환경에 참여하고 싶어 한다는 것을 어떻게 알 수 있을까?

나는 모든 대학원생을 대변할 수 없고, 내 감정만 말할 수 있다. 한 세대 전체를 대변할 생각도 없다. 다만 연구 수학자로 일할 생각으로 대학원에 들어왔고, 10월 6일의 일들이 그 결정을 바꾸게 했으며, 나만 그런 것은 아닐 것이라고 말할 수 있다.

이 글을 마치기 전에 강조하고 싶다. 나는 수학자가 되기를 그만두고 싶지 않다. 수학에 대한 사랑은 영원하며, 연구자로서의 능력뿐 아니라 한 인간으로서 나를 성장시켜준 이 분야에 깊이 감사한다. 학계가 내가 이 과목을 사랑하게 된 지적 활동을 위한 자리를 남겨두려 한다고 믿지 않는다. 나 스스로 발견하고 싶다. 고투하고, 고생하고, 성장하고 싶다.

내 개인적인 취향에 동의해달라는 것이 아니다. 여러분이 제안하는 미래가 후계자를 어떻게 훈련할지, 어떤 사람들을 끌어들일지, 왜 추구할 가치가 있는 미래인지 설명해달라는 것이다. 이 질문들은 수학이라는 직업 자체의 세대 간 지속 가능성과 관련돼 있어 무시할 수 없다. 마땅한 긴급성을 갖고 다루기 시작하기를 바란다. 여러분이 미래가 어떤 모습일지 논의하는 동안, 우리 가운데 일부는 이미 그 미래에 참여하지 않기로 결정했기 때문이다.

—익명의 박사과정 학생

2026년 10월 19일 접수.

분류: 에세이 · 반응