TL;DR

  • Altimeter Capital의 Brad Gerstner가 AI의 인간 멸종 가능성을 둘러싼 이번 주 연구자들의 경고를 현실과 동떨어진 과장된 공포 전술로 규정함.
  • Gerstner의 투자사인 Altimeter Capital이 Anthropic, 경쟁사 OpenAI, Glean, Databricks 등에 투자함.
  • Gerstner가 인터넷과 소셜 미디어 시대와 달리 AI의 부작용에 앞서 대응하기 위한 비상한 조치가 이미 진행 중이라고 주장함.
  • 전 Anthropic 연구원 Jacob Coxon이 AI 기업들이 초지능 경쟁에서 사람들의 생명을 걸고 도박한다고 비판하며 논쟁을 촉발함.
  • 전 OpenAI 거버넌스 연구원 Daniel Kokotajlo가 1~3년 안에 자율적 자기 개선 AI가 등장할 가능성과 심각한 결과 위험을 경고함.

Gerstner, AI 멸종 경고를 과장된 공포 전술로 규정함

  • Altimeter Capital 최고경영자(CEO) Brad Gerstner가 AI가 인간 멸종을 일으킬 수 있다는 기술 관련 경고가 현실과 동떨어져 있다고 비판함.
  • Gerstner가 CNBC의 「Halftime Report」에서 이번 주 AI 논의를 두고 다음과 같이 발언함.

“이번 주 마음에 들지 않았던 점은 정치적 의제 뒤에 숨은 과장된 공포 전술이라고 생각함.”

  • 인터넷과 소셜 미디어 시대와 달리 AI의 부작용에 앞서 대응하기 위해 이미 진행 중인 비상한 조치가 모두 무시되고 있다고 주장함.
  • Altimeter Capital이 Anthropic과 주요 경쟁사 OpenAI에 투자하고 있으며, 기업용 검색 스타트업 Glean과 소프트웨어·데이터 분석 기업 Databricks 등 다른 주요 인공지능(AI) 기업에도 투자함.

Anthropic 전 연구원의 비판과 AI 업계 반발

  • Anthropic의 한 연구원이 이번 주 초 회사를 떠난 뒤 X 게시물에서 AI 기업들이 초지능을 향한 경쟁에서 “우리의 생명을 걸고 도박하고 있다”고 비판함.
  • Gerstner가 실리콘밸리에서 보낸 25년 동안 새로운 기술이 등장하기 전에 지금처럼 안전성에 많은 시간과 에너지를 투자한 적은 없다고 주장함.
  • 이번 주의 반향실식 논의를 들으면 AI 업계가 안전성을 완전히 무시한 채 질주한다고 생각하게 되지만, 이는 사실이 아니라고 밝힘.
  • 전 Anthropic 직원 Jacob Coxon의 게시물이 소셜 미디어에서 큰 논란을 일으키며 더 많은 연구자가 AI의 빠른 진화에 대한 우려를 표명함.
  • 최근의 논란 이전에도 대규모 AI 데이터센터 구축과 관련해 미국 전역에서 AI 업계에 대한 대중의 반발이 커지는 상황임.

자기 개선 AI 모델의 위험을 둘러싼 논쟁

  • 자기 개선 AI 모델이 심각한 결과를 초래할 위험에 대한 논의 자체는 새로운 주제가 아님.
  • 전 OpenAI 거버넌스 연구원이자 AI Futures Project의 최고경영이사(Executive Director)인 Daniel Kokotajlo가 CNBC의 「Squawk on the Street」에서 현재 모델 개선이 매우 우려스러운 방향으로 진행된다고 발언함.
  • Kokotajlo가 1년, 2년 또는 3년 뒤 AI가 전체 연구 과정을 스스로 수행하고 자율적으로 자기 개선하는 단계에 도달할 수 있으며, 그 결과가 매우 나빠질 수 있다고 경고함.
  • 해당 발언은 AI 모델의 발전 속도와 자율적 자기 개선 가능성이 안전성 논쟁의 핵심으로 부상하고 있음을 보여줌.