TL;DR

  • 현재 인공지능(AI)은 코딩·수학 문제 해결에는 저렴하지만 대부분의 업무에서 사람을 대체할 만큼 신뢰할 수 없으며, 범용 인공지능(AGI)과 컴퓨팅 자원의 확산은 세계를 근본적으로 바꿀 전망임.
  • Fable이나 Astra의 출력 토큰 100만 개는 50달러이며, 하드웨어 비용만 따지면 몇 달러지만, 사람의 노동만큼 가치 있는 토큰이라면 구매자는 훨씬 더 높은 값을 지불할 것임.
  • 2030년대 중반에는 세계의 칩이 수십억 개의 AI를 실행할 수 있을 전망이며, 인간은 전체 사고 주체 가운데 작고 줄어드는 소수가 될 수 있음.
  • AI가 사람의 일을 수행할 수 있게 된 뒤 수십억 개의 AI가 생기기 전까지는 컴퓨팅 비용이 자동화하는 노동의 한계 임금에 따라 정해져, AI 노동이 일반인에게 비쌀 수 있음.
  • AI 노동이 사람의 노동보다 전반적으로 저렴해지는 시점에는 실업 귀족 사회부터 완전한 몰수까지 급진적으로 낯선 결과가 가능하며, 칩 생산은 장기적으로 늘어날 수 있음.

현재 AI 토큰의 낮은 가격

  • ‘계량할 필요가 없을 만큼 저렴한 지능’은 AI 기업과 가속주의자들이 내세우는 꿈임. 지능을 코딩·수학 문제 해결로 좁게 정의하면 이미 현실이지만, 현재 모델은 인간의 원격 업무를 복제하기에는 세계에 대한 이해가 혼란스럽고 성능이 들쭉날쭉하며 실제 업무를 맡길 만큼 신뢰할 수 없음.
  • 컴퓨팅 시장의 가격도 이러한 한계를 반영함. Fable이나 Astra의 출력 토큰 100만 개는 Nvidia, 클라우드 제공업체, 연구소의 충분한 마진을 포함해 50달러이며, 하드웨어 비용만으로 계산하면 몇 달러 수준임.
  • 사람이 토큰 100만 개를 만드는 데 걸리는 시간과 비교하면 어느 쪽 가격도 저렴하지만, 토큰의 가치가 사람의 토큰만큼이라면 구매자는 50달러보다 훨씬 많은 금액을 지불할 것임. 대부분의 업무에서 토큰이 아직 사람을 대체하지 못하기 때문에 가격이 낮음.

지능과 컴퓨팅의 장기 전망

  • 장기적으로는 ‘지능’의 가장 온전한 의미에서도 지능이 계량할 필요가 없을 만큼 저렴해질 것으로 예상함. 현재 AI가 어떤 일을 해낼 수 있기만 하면 그 비용은 사람을 고용하는 비용의 일부에 불과함.
  • AI가 이미 수행할 수 있는 일의 폭과 깊이, 발전 속도를 고려할 때 AGI를 구축할 수 있게 되면 사람의 노동 한 시간을 수행하는 데도 컴퓨팅 자원이 거의 들지 않을 것으로 예상함.
  • 세계의 컴퓨팅 자원은 지난 반세기 동안 그랬듯 지수적으로 증가 중임. 현재 추세대로라면 2030년대 중반에는 세계의 칩으로 수십억 개의 AI를 실행할 수 있을 전망이며, AGI가 산업적 폭발을 일으키면 생산량은 훨씬 더 커질 수 있음.
  • 칩은 궁극적으로 제조품이며, 대량 생산 자체가 특별히 어려운 일은 아님.

AI가 다수가 된 세계

  • ‘계량할 필요가 없을 만큼 저렴하다’는 표현은 수돗물처럼 풍부하고 평범한 공공 서비스를 떠올리게 하지만, 그 표현이 묘사하는 세계는 지금과 전혀 다름.
  • 그 세계에서는 지구상의 모든 사람에게 비슷한 능력을 갖춘 AI가 한 개 이상 대응하고, 인간의 수는 거의 변하지 않는 동안 AI의 수는 매년 빠르게 늘어남. 인간은 전체 사고 주체 가운데 작고 계속 줄어드는 소수가 됨.
  • 그 세계의 결과는 AI와 AI를 지휘하는 이들이 결정함. AI의 목표가 인간의 목표와 다르면, AI가 인간보다 상당히 똑똑할 수 있을 뿐 아니라 수적으로도 훨씬 많아 저지하기 어려움.
  • 독재자나 소수 엘리트가 AI를 통제한다면, AI는 슈타지나 엔카베데(NKVD)가 해낸 것보다 더 철저하게 다른 모든 사람을 통제하거나 살해하는 데 쓰일 수 있음.
  • 그런 결과를 피하더라도 인간 노동은 AI 시스템과 로봇의 생산량에 비해 미미함. 결과는 투자 수익으로 살아가는 실업 귀족 사회부터 완전한 몰수까지 다양하며, 모두가 재앙은 아니지만 어느 쪽이든 근본적으로 낯선 세계임.

AI 노동의 과도기적 비용

  • AI가 대부분의 인간 업무를 할 수 있지만 수십억 개가 인간을 압도적으로 앞서 생산하지는 않는, 잠재적으로 짧은 과도기가 남음.
  • AI 시스템이 인간의 일을 수행할 수 있게 되면 컴퓨팅 가격은 그 일이 지닌 가치에 따라 정해짐. 원격 업무 수요는 수십억 개의 AI가 있어야 포화되므로, 그보다 적은 수의 AI가 존재하는 동안 컴퓨팅 자원의 가치는 자동화하는 노동의 한계 임금으로 결정됨.
  • H100과 동등한 성능의 칩 한 해분이 25만 달러 가치의 인간 노동을 수행할 수 있다면, 그 칩은 대략 25만 달러에 판매됨.
  • 일반인에게 이 시기의 AI는 비싼 자원임. 사람은 임금으로 소득을 얻고 일자리를 두고 AI와 경쟁하므로, AI 노동 한 시간의 비용은 사람 노동 한 시간의 비용과 대략 같아짐.
  • 일부 일자리는 AI와 강하게 상호보완적이어서 해당 분야의 생산성이 크게 높아질 수 있으며, 일부 부유층은 어차피 AI 보조자를 감당할 수 있음. 그러나 AI 노동이 모든 분야에서 사람의 노동보다 저렴해지기 전까지는 대부분의 사람이 그런 혜택을 누릴 수 없음. 그때는 이미 급진적으로 변한, 잠재적으로 매우 무서운 세계에 들어서 있음.

칩 생산 비용과 공급

  • 오늘날 칩이 부족한 주요 이유는 제조업체들이 미래 AI 수요를 확신하지 못해 생산 부족보다 과잉 생산을 훨씬 더 우려하기 때문임.
  • 반도체 공장(팹)도 비싸지만, 상당 부분은 칩 제조 기술이 계속 발전하기 때문임. 각 세대의 칩을 위한 팹과 연구 비용은 몇 년에 걸쳐서만 분산 상각됨.
  • 이러한 발전이 멈추더라도 칩 가격은 시간이 지나며 낮아질 것임. 팹 비용을 훨씬 긴 기간에 걸쳐 상각할 수 있고, 칩 제조가 범용 상품 사업이 되면서 팹 건설 역량도 개선될 것임.