TL;DR

  • Anthropic의 950개 에이전트가 21시간 만에 알려진 효소 주변의 미기록 반복 패턴을 찾아냈지만, 생물학적 기능을 밝히지 않아 이를 과학적 발견으로 볼 수 있는지 논쟁이 이어짐.
  • 생물학자들은 유전자와 반복 서열의 특이한 배열을 찾아내는 일보다 그 시스템이 실제로 무엇을 하는지 알아내는 일이 핵심이라고 지적함.
  • 코펜하겐대학교의 Mario Rodríguez Mestre는 자신의 연구팀이 이미 해당 패턴을 발견했다고 밝혔고, Anthropic은 대화에서 정보를 얻었다는 의혹을 부인함.
  • AI 기업이 과학자용 도구가 아니라 스스로 발견하는 시스템이라고 홍보하면, 인간과 도구의 협업이라는 과학의 실제 과정이 가려지고 성과 평가가 양자택일로 축소될 수 있음.
  • AI의 과학적 성과를 과장하지 않고 높은 기준으로 평가해야 한다는 요구가 나오는 가운데, 기업 간 경쟁은 그 기준을 높이는 방향과 어긋날 수 있음.

Anthropic의 에이전트가 찾은 반복 패턴

  • Anthropic은 올해 초 Claude 에이전트가 어려운 생물학 문제를 읽고 가설을 세우며, 인간 과학자가 에이전트의 보고를 바탕으로 실험을 진행하는 분자생물학 연구소를 열었다고 발표함.
  • 회사 발표에 따르면 950개 에이전트는 21시간 동안 연구를 수행해, 알려진 효소 주변에서 이전에 목록화되지 않은 반복 패턴을 찾아냄. 새 DNA 서열을 발견한 것은 아님.
  • Anthropic은 이 패턴이 유전자 편집 기술 CRISPR의 토대가 된 발견을 떠올리게 한다고 설명하면서, 해당 기술이 과학과 의학을 이미 바꿔 놓았다고 강조함.
  • 이에 일부 생물학자는 패턴을 찾아내는 일은 쉬운 부분이며, 실제 발견은 그 시스템이 무엇을 하는지 알아내는 과정에서 나온다고 반발함.

“이상한 유전자와 반복 서열의 군집을 찾는 일은 대개 쉬운 부분임. 어려운 부분이자 진짜 발견이 나오는 곳은 그 시스템이 실제로 무엇을 하는지 알아내는 일임.”

  • AI가 방대한 생물학 데이터에서 사람이 눈으로만 파악하기 어려운 패턴을 찾아내더라도, 그 결과가 과학적 돌파구인 것은 아님. AI에겐 새로울 수 있는 결과가 생물학자에게는 일상적이거나 예상 가능하거나 중요하지 않을 수 있음.

발견의 공로와 과학의 협업

  • 코펜하겐대학교 생물학자 Mario Rodríguez Mestre는 자신의 연구팀이 해당 패턴을 이미 발견했다고 주말에 밝혔으며, 이 내용은 The New York Times가 보도함.
  • 연구에 Claude를 자주 활용했던 Mestre는 Anthropic 팀이 자신과 Claude의 대화에서 해당 정보를 얻었는지 의문을 제기함. Anthropic은 이를 부인했지만 Mestre는 Claude 사용을 모두 중단하겠다고 밝힘.
  • AI 기업은 자사 시스템을 현미경이나 슈퍼컴퓨터처럼 과학자가 사용하는 도구로만 소개하지 않고, AI가 직접 발견한다고 주장함. 일부 연구자에게 이는 새로운 지식이 협업과 점점 늘어나는 도구를 통해 만들어지는 과학의 작동 방식과 맞지 않는 접근임.
  • AI의 성과를 직접적인 발견 여부로만 판단하면, 실제 진전이 이뤄져도 그 가치를 의심하게 만들 수 있음. 후보 20만 개를 탐구할 만한 몇 개로 좁히는 일은 상당한 과학 작업이며, 범용 챗봇이 이를 수행한다는 점은 인간이 방향을 잡고 최종 실험을 맡더라도 주목할 만함.
  • 그러나 Claude 자체가 발견했는지를 기준으로 삼으면, 이 모든 성과가 돌파구냐 실패냐를 가르는 논쟁의 근거로만 쓰일 수 있음.

AI 발견의 기준을 둘러싼 논쟁

  • AI가 발견을 했는지를 기준으로 삼으면, 성과를 거둔 것처럼 보인 뒤에도 평가 기준을 바꾸기 쉬움.
  • OpenAI는 이달 초 자사 에이전트 팀이 백만 달러 규모의 수학 문제를 풀었다고 발표함. 몇 주 뒤에는 AI 회의론자들이 해당 문제가 수학자에게 정말 중요한 문제였는지를 묻는 글을 공유함.
  • 그 글은 OpenAI의 풀이가 틀렸다고 주장하지 않고, 해당 결과가 수학자들이 가장 중요하게 여기는 결과가 아닐 수 있다고 지적함. 한 수학자는 모델이 자신의 연구를 출처 표시 없이 사용했을 가능성도 제기함. 그 결과 OpenAI가 부정행위를 했거나 풀이가 애초에 중요하지 않았다는 인식, 또는 두 가지 모두가 남을 수 있음.
  • Anthropic의 발표를 비판한 글을 쓴 생물학자 Lucas Harrington은 AI 기업이 기준을 지금 높게 설정해야 한다고 제안함.

“AI가 실제로 근본적으로 새로운 생물학적 메커니즘을 발견할 때 모두가 그 일이 얼마나 큰 성과인지 알아볼 수 있도록, 지금 기준을 높게 설정해야 함.”

  • OpenAI의 Sam Altman과 Anthropic의 Dario Amodei가 서로 앞서려는 경쟁을 벌이는 상황에서, AI가 이룬 과학적 돌파구의 기준을 높이는 일이 두 사람의 우선순위가 아닐 수 있음.