필즈상 수상자 테렌스 타오(Terence Tao)는 AI가 수학 문제의 증명 결과를 빠르게 늘리면서 수학자들이 이를 이해하고 검증하는 속도를 앞지르고 있다고 진단한다. 그는 증명 부족을 특징으로 삼던 수학에서 벗어나 책임 있는 AI 활용과 연구 관행을 담은 ‘수학 2.0’이 필요하다고 주장한다.
타오는 최근 몇 달 사이 AI를 활용한 증명이 오랫동안 풀리지 않던 수백 개 수학 문제에 대해 나왔지만, 수학자들이 그 논리와 의미를 완전히 이해하는 데 몇 달이 걸릴 수 있다고 말한다. 일부 결과는 출판에 필요한 수준으로 충분히 명확하게 설명되지 않고, 최소한의 증명을 제시한 뒤 다음 문제로 넘어가는 연구자도 있어 다른 수학자들이 평가하기 어렵다는 지적이다. AI 모델이 기존 수학자의 연구를 얼마나 활용하면서도 적절한 출처를 밝히지 않는지도 아직 불분명하다.
문제와 연구 방향을 공개적으로 공유해 온 관행도 위협받고 있다. AI를 갖춘 경쟁자가 먼저 결과를 내 연구를 가로챌 수 있다는 우려 때문에 수학자들이 연구 방향을 공개하기를 꺼린다는 것이다. 대학원생과 초기 경력 수학자들은 이런 문제를 풀며 역량을 키우고 동료의 인정을 얻어 왔다. 타오는 OpenAI가 10월 6일 이런 문제에 대한 수백 개 해답을 한꺼번에 온라인에 공개해 수많은 연구 계획을 하루아침에 흔들었다고 지적한다.
타오는 수학에서 AI가 만든 결과를 사람이 소화하지 못하는 ‘증명 소화불량’도 우려한다. 순수수학에만 국한되면 작은 문제일 수 있지만, 작동 원리를 충분히 이해하지 못한 채 실제 세계에 적용되는 AI 수학 모델은 더 큰 위험을 낳을 수 있다고 말한다. 복잡한 AI 생성 모델은 이미 은행 대출 자격 판단과 금융시장의 위험 측정에 어느 정도 쓰이고 있다. 사람이 모델의 오작동 가능성을 이해하는 능력을 모델의 복잡성이 앞서면, 예기치 못한 오류가 대중에게 영향을 미칠 위험이 커진다는 설명이다.
그는 이런 부정적 결과가 불가피한 것은 아니라고 본다. 수학계의 기존 보상 체계를 근본적으로 재검토하고 AI를 더 책임 있게 사용하는 관행을 도입하면, 적절한 유인 아래 AI 도구가 사람의 이해를 높이는 데 쓰일 수 있다고 주장한다.
관련 자료: 테렌스 타오의 글, OpenAI의 수학 문제 해답 공개, AI 모델의 실제 적용과 위험에 관한 글
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요