수학·인공지능 자문그룹(Advisory Group on Mathematics and Artificial Intelligence, AGMAI)은 AI 기업이 AI가 만든 수학 결과물을 공개할 때 특정 수학자를 먼저 지정해 검토와 해설을 맡기지 말라고 권고했다. 초기 검증과 설명을 개선할 수 있다는 장점보다 접근 기회와 공동체의 자율성을 해칠 위험이 크다는 판단이다.
AGMAI는 9월 29일 권고안에서 AI가 만든 수학 결과에 대한 인간의 이해가 공동체 주도로 자연스럽게 발전해야 한다고 제안했다. 일부 과거 공개 사례에서는 AI 기업이 특정 수학자에게 결과물을 먼저 전달했고, 이들은 아이디어를 파악하고 검증한 뒤 더 넓은 수학계에 소개했다. AGMAI는 이 방식이 전문가의 조기 검토와 더 나은 초기 설명을 가능하게 할 수 있다는 점은 인정하면서도, 종합적으로는 단점이 더 크다고 봤다. 해당 역할을 맡은 수학자 개인을 비판하는 것은 아니라고 덧붙였다.
특정 수학자가 먼저 자료를 받으면 같은 문제를 연구해 온 다른 수학자보다 앞서게 되고, 자료에 접근하지 못한 이들은 기여 기회를 잃거나 연구를 포기할 수 있다. 자료를 모두에게 동시에 공개하더라도 문제가 남는다. 누가 중요한 결과를 이해하고 검증해 설명할지는 해당 분야에 영향을 미치는 결정인데, 기업이 특정인을 정하면 공동체의 결정권을 대신 행사하게 되고 다른 이들의 참여를 위축시킬 수 있다는 것이다.
AGMAI는 기업이 선택한 수학자들이 기업의 인맥과 우선순위를 반영할 수 있고, 선정 과정도 불투명하며 책임을 묻기 어렵다고 지적했다. 이 관행이 수학자들에게 기업의 우선순위에 맞추도록 유도할 가능성도 있다고 봤다. 지정된 수학자의 이름이 결과물 공개를 보증하는 것처럼 받아들여져 기업에 대한 비판을 막는 역할을 할 수도 있다. 수학계 안에 기업의 결과물 공개를 두고 다양한 견해가 있는 만큼, 이는 해당 수학자가 결과를 이해하도록 돕는 역할을 수행하기 어렵게 만들 수 있다고 설명했다.
대신 AGMAI는 AI 기업 직원이 학술 논문으로 작성한 결과물에는 권고안의 경로 2A를, 논문으로 정리할 계획이 없는 미완성 결과물에는 경로 2B를 따르라고 권고했다. 경로 2B의 주요 내용은 다음과 같다.
- 관련 문헌을 폭넓게 살펴 인용을 보완하고 설명을 개선하기 위해 성실히 노력한다.
- 결과물은 게시 기업이 통제하지 않는 학술 저장소에 올린다. 저장소는 인용 가능한 식별자를 제공하고 수정 이력을 기록해야 한다.
- 모델 이름, 프롬프트, 사고 과정, 시도 횟수, 사용한 연산 자원과 비용 등 결과물이 만들어진 과정을 공개한다.
- 지나친 지연을 초래하지 않는 한 증명을 Lean으로 형식화하고, 형식화 자료는 수학계의 기준을 충족하도록 한다.
- 문제를 선택한 방식과 시도한 문제의 수를 밝힌다.
- 학술 워크숍과 작업 그룹 등 결과물에 대한 인간의 이해를 돕는 활동을 지원하고 자금을 제공한다. 어떤 활동을 지원할지는 AGMAI나 AI 기업이 아니라 독립적인 비영리기관이 결정해야 한다.
AGMAI는 권고안이 수학 분야를 대상으로 하며 다른 과학 분야에 그대로 적용되는 것은 아닐 수 있다고 밝혔다. 최근에는 수학자들이 공개된 AI 결과물을 자발적으로 읽고 이해해 문제를 해결하는 논문을 작성했으며, 관련 읽기 모임과 워크숍, 웹사이트도 꾸려지고 있다고 설명했다. 권고안 전문에서 경로별 세부 내용을 확인할 수 있다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요