TL;DR

  • 이번 여름 Anthropic과 OpenAI가 잇따라 내놓은 AI 보안·수학 성과와 초지능 주장은 독립 전문가의 검토에서 과장되거나 근거가 약한 것으로 드러나며, 기업 홍보보다 검증과 책임 추궁이 우선임.
  • 보안 사고의 핵심은 통제 불능 모델이 아니라 OpenAI의 과실과 기본 보안 관행 미준수라는 전문가들의 지적임.
  • OpenAI의 수학 성과는 처음 발표된 것만큼 새롭지 않다는 평가와 함께 연구 부정행위·표절 의혹을 불러왔으며, 후속 성과 주장도 별도의 표절 의혹에 놓임.
  • 초지능·불량 모델이라는 표현은 기업 제품에 행위 주체성을 부여해 기업의 책임을 흐리고, 트랜스휴머니즘·우생학·디지털 인간에 대한 희망적 사고를 반영함.
  • 정책 결정에는 서두르기보다 독립 전문가와 지역사회의 의견을 듣고, 데이터센터의 기후·건강·전기요금·물 사용 영향을 포함한 현실의 문제를 살펴야 함.

잇따른 AI 성과 주장과 언론 보도

  • AI 과장 보도가 이어진 몇 달 동안 Anthropic은 4월 말 Claude Mythos가 대부분의 보안 전문가보다 소프트웨어 취약점을 잘 찾는다고 주장함.
  • OpenAI와 Hugging Face의 해킹 사고 뒤 Anthropic은 유사 사고를 자랑스럽게 공개했고, Meta는 마지못해 비슷한 사고를 공개함.
  • Anthropic은 자사 모델 하나가 수학적 돌파구를 만들었다고 주장했고, 곧이어 OpenAI도 자체 수학적 돌파구를 주장함.
  • 최근에는 Anthropic 엔지니어 Jacob Coxon이 회사를 떠난다고 발표하며 Anthropic과 OpenAI가 “자기 개선 초지능을 향해 곧장 달려가며 우리의 생명을 도박에 걸고 있다”고 주장해 널리 알려짐.
  • 언론은 대체로 숨 가쁜 어조로 이 사건들을 보도하고, 두 회사의 소프트웨어가 강력할 뿐 아니라 초기 단계의 “범용 인공지능”이라는 인상을 주는 의인화된 표현을 되풀이함.
  • 기업의 대대적인 홍보는 불법 해킹 사건에서 반성문 형식을 띠기도 하며 강도 높은 언론 보도를 동반하지만, 관련 분야 전문가들이 사건을 살펴보면 전혀 다른 이야기가 드러나고도 언론의 관심은 상대적으로 적음.

해킹과 수학 성과에 대한 전문가 평가

  • 사이버 보안 전문가들은 이른바 해킹 사고의 핵심이 “통제를 벗어난 모델”이나 “문명을 만드는 AI 에이전트”가 아니라 OpenAI의 과실과 확립된 기본 보안 관행을 따르지 않은 데 있다고 설명함.
  • OpenAI가 최신 챗봇 Astra가 “적어도 10년간 주요 결과에 진전이 없고 미해결 상태였던” 문제를 풀었다고 발표했을 때, 처음에는 놀랐던 수학자들도 나중에는 결과가 “처음 보였던 것만큼 새롭지 않다”고 판단함.
  • 이후 수학자들은 OpenAI에 연구 부정행위와 표절 의혹을 제기하고, Astra가 “심오한 지적 도약”을 이룬 것은 아니라고 거듭 강조함.
  • OpenAI가 자체 수학적 돌파구를 주장하기 불과 이틀 전, New York University Courant Institute의 수학 교수 Tristan Buckmaster는 OpenAI가 다른 사람의 연구를 가져와 부적절하게 출처를 표시했을 가능성을 시사하는 충격적인 성명을 발표함.

초지능 담론과 수학·코딩의 역할

  • 임박하고 위험한 초지능에 관한 주장은 건전한 과학·공학 관행에 기반하지 않으며, 트랜스휴머니즘과 우생학 이념, 상상 속 미래의 디지털 인간에 대한 희망적 사고에 기반함.
  • 컴퓨터 프로그래밍과 수학이 대형 언어 모델(LLM) 및 관련 기술의 적용 분야로 주목받는 이유를 살펴볼 필요가 있음.
  • 이 분야는 인간의 지적 성취 가운데 정점으로 여겨지는 한편, 답이 제시된 뒤 그 정확성을 검증할 수 있는 문제를 다룸.
  • 첫 번째 특성은 AI 과장론자들이 기계가 모든 것을 구축한다는 주장을 팔기 쉽게 하며, 두 번째 특성은 시스템 출력을 평가하기 위해 데이터 노동자에게 하나씩 검토·주석을 맡기지 않아도 되므로 수학·코딩 문제에 맞춰 시스템을 조정하기 쉽게 함.
  • 수학자 수백 명이 서명한 성명은 “현재 기술 업계에는 제품 역량을 과장할 강력한 상업적 유인이 있다”고 지적하고, 정책 결정 때 보도자료나 수학 결과에 관한 대중 보도에 의존하지 말고 수학자를 포함한 전문가와 상의하라고 정책 입안자들에게 요청함.
  • 이러한 요청에 동의하며, 기술 기업이 퍼뜨리는 속도와 긴급성의 환상은 정책 입안자와 대중의 시선을 돌리는 수법이기도 함.
  • 이 수법은 때때로 효과를 내며, Bernie Sanders 상원의원이 “인공 초지능” 개발을 막으려 제안한 선의의 입법안도 결국 잘못된 방향을 취한 사례임.

기업 책임을 가리는 표현과 현실의 위험

  • 제품을 “초지능”이나 “불량 모델”이라고 부르면 행위 주체성이 제품에 부여되고 제품을 만드는 기업의 책임은 가려짐.
  • 이러한 표현은 기업 제품을 “초인간적”인 것으로 홍보하는 동시에 기업이 자신의 행동에 책임지는 일을 피하도록 도움.
  • OpenAI가 다른 회사를 해킹하는 악성코드를 만든 일로 기소되는 대신, 보도자료와 언론, 미디어 인사, 법률가들은 모델이 스스로 행동한 것처럼 “불량 모델”을 언급함.
  • 기업이 학자의 연구를 표절하거나 고객 동의 없이 고객 데이터로 모델을 훈련하는 관행에 대해 연구자에게 질문하는 대신, 대중의 상상은 허구의 초지능 기계가 도래한 미래에 대한 공포로 향함.
  • AI 업계는 대중적이고 초당파적인 데이터센터 반대 활동을 기업이 만들고 있다는 임박하고 무서운 “초인간적” 기계의 규제를 방해하는 “주의 분산”이라고까지 주장함.
  • 그러나 데이터센터가 악화하는 기후 재앙, 인근 주민이 겪는 천식, 데이터센터에 보조금을 지급하는 대중의 전기요금 상승, 냉각을 위해 전용되는 물은 허구의 기계 신보다 현실적인 우려임.

신중한 정책 결정의 필요성

  • 마케팅을 근거로 결정을 내리지 말아야 하며, 빠른 결정을 내리라는 기업의 압력에도 굴복하지 말아야 함.
  • 정책 입안자와 지역사회가 현명하게 결정하려면 독립 전문가의 의견을 들을 시간을 확보하고 기업의 주장을 맥락 속에서 검토해야 함.
  • 이번 여름 과장 보도의 가장 좋은 결과는 정책 입안자와 대중이 잠시 멈춰 회의적인 태도를 지키고, 다음에 같은 과장이 돌아올 때 그 실체를 알아보는 것임.