TL;DR

  • 트럼프가 인공지능(AI)을 ‘초(super)’로 바꾸자고 제안했지만, 기존의 ‘초지능(superintelligence)’은 인간 인지 능력을 크게 넘어서는 AI를 뜻해 명칭 혼선이 생김.
  • 초지능은 업계의 개발 목표인 동시에 개발을 늦추거나 금지하려는 논쟁의 대상임.
  • 트럼프는 ‘인공(artificial)’이라는 말이 가짜처럼 들린다며 미국 문서와 가능하다면 세계 문서의 용어를 바꾸겠다고 밝혔고, 중국의 Xi Jinping도 이 아이디어를 좋아한 듯하다고 게시함.
  • OpenAI는 초지능이 인류가 발명한 기술 중 가장 큰 영향을 미칠 수 있지만 인류의 권한 상실이나 멸종으로 이어질 위험도 있다고 언급함.
  • 인공 일반 지능(AGI)과 초지능의 경계는 아직 정립되지 않았으며, 트럼프의 ‘SI’ 명칭 제안은 이미 다른 뜻으로 쓰이는 용어와 맞닥뜨림.

트럼프의 명칭 제안

  • 트럼프는 세계 지도자와 미국 기관에 AI를 ‘초(super) 지능’으로 바꾸라고 촉구함.
  • 트럼프는 화요일 유엔 총회 모임에 앞서 ‘인공’이라는 단어가 가짜처럼 들린다고 말하고, 실제로 가짜가 아니라 놀라운 기술이라고 덧붙임.

“‘인공’이라는 단어를 쓰면 가짜처럼 들림. 가짜가 아님. 실제로 놀라운 기술임.”

  • 트럼프는 미국 문서와 가능하다면 세계 문서에서도 ‘인공’ 대신 더 정확한 용어인 ‘초’를 사용하도록 바꾸겠다고 발표함.
  • 트럼프는 금요일 게시물에서 중국의 Xi Jinping이 이 아이디어를 좋아한 듯하다고 밝힘.
  • 백악관은 트럼프가 새 명칭을 제안할 때 ‘초지능’의 기존 의미를 고려했는지 묻는 Axios의 질문에 즉시 답변하지 않음.
  • 이 문제가 중요한 이유는 ‘초지능’이 AI 분야에서 이미 특정한 의미를 지니며, 가장 앞선 시스템의 개발을 늦추거나 중단해야 하는지를 둘러싼 논쟁을 키우고 있기 때문임.

초지능의 정의

  • 철학자 Nick Bostrom은 ‘초지능’이라는 용어를 널리 알린 인물로 평가됨.
  • Bostrom은 영향력 있는 2014년 저서 《Superintelligence: Paths, Dangers, Strategies》에서 초지능을 잠정적으로 “관심을 가질 만한 거의 모든 영역에서 인간의 인지 성과를 크게 넘어서는 지능”으로 정의할 수 있다고 씀.
  • 넓은 의미의 초지능은 인간의 인지 능력을 능가하는 AI를 가리키며, 업계의 목표인 동시에 개발을 늦추거나 전면 금지하려는 노력의 초점임.
  • Meta 최고경영자 Mark Zuckerberg도 Meta의 AI 부서 명칭을 포함해 ‘초지능’이라는 말을 자주 사용함.

업계의 관점

  • OpenAI는 2023년 메모에서 초지능이 “인류가 발명한 기술 가운데 가장 큰 영향을 미칠 것”이라고 언급함.
  • OpenAI는 동시에 초지능이 “인류의 권한 상실이나 심지어 인류의 멸종으로 이어질 수 있음”을 경고함.
  • 이번 달 AI 역량에 대한 경고로 빠르게 확산된 우려를 촉발한 전 Anthropic 연구자 Jacob Coxon은 OpenAI와 Anthropic이 “자기 개선형 초지능을 향해 곧장 경쟁하며 우리의 생명을 걸고 도박하고 있음”이라고 씀.

“OpenAI와 Anthropic은 자기 개선형 초지능을 향해 곧장 경쟁하며 우리의 생명을 걸고 도박하고 있음.”

  • Future of Life Institute가 제안한 초지능 개발 유예 청원에는 노벨상 수상자이자 ‘AI의 대부’로 불리는 Geoffrey Hinton, Apple 공동 창업자 Steve Wozniak 등 기술 업계의 저명인사들이 서명함.
  • 비영리 AI 연구 재단 AI Futures Project는 초지능 개발을 2040년까지 미루자는 제안을 내놓았으며, Axios가 올해 초 이를 처음 보도함.

현재 AI의 위치

  • OpenAI 사장 Greg Brockman은 최근 회사의 GPT-6 Astra 모델이 언젠가 인공 일반 지능(AGI)의 등장으로 여겨질 수 있다고 전망함.
  • AGI의 간단한 정의도 완전히 명확하지 않음.
  • Google DeepMind 연구진은 올해 초 보고서에서 현재 AI 모델이 이미 여러 측면에서 인간을 능가하지만 충분히 일반적이지는 않다며, 최초의 AGI도 이미 여러 과업에서 인간을 능가할 것이라고 밝힘.

“현재 AI 모델은 이미 여러 측면에서 인간을 능가하지만 아직 충분히 일반적이지 않으므로, 최초의 AGI도 이미 여러 과업에서 인간을 능가할 것임.”

  • AGI와 초지능의 경계는 여전히 정립되지 않았으며, 트럼프가 제안한 ‘SI’라는 명칭은 이미 다른 의미를 지닌 ‘초지능’이라는 용어가 쓰이는 분야에 들어오고 있음.
  • 관련 기사: “We have a choice”: AI leaders sound alarm at UN.
  • Axios AI+는 빠르게 발전하는 AI 소식을 전하는 서비스임.