TL;DR

  • Dario Amodei, Elon Musk, Sam Altman이 AI 개발 속도 완화와 감독 강화를 요구하지만, 안전 우려가 타당하고 진실하더라도 규제가 기존 기업의 경제적 이해관계에 봉사할 수 있다는 점이 핵심 주장임
  • OpenAI, Anthropic, xAI 같은 선도 기업은 법무·규정 준수·안전 연구·감사·대정부 업무 조직을 감당할 수 있어 규제가 후발 진입자의 비용을 높이는 장벽이 될 수 있음
  • 선도 AI 기업 간 조정과 경쟁 완화는 안전을 위한 조치일 수 있지만, 경쟁 속도를 함께 늦추려는 경제적 유인도 반영함
  • 기존 기업은 규제 설계에 막대한 영향력을 행사하는 시점에 규제가 작성되기를 선호할 수 있으며, 이를 통해 예측 가능성·정당성·책임 있는 AI의 정의를 확보할 수 있음
  • 규제는 공포에 따른 반응이 아니라 제안 기업의 사적 유인을 분석한 뒤 판단해야 하며, 사회적으로 바람직한 제안에도 건전한 회의론이 필요함

AI 개발 속도 완화 요구

  • 며칠 사이 Dario Amodei, Elon Musk, Sam Altman이 AI 개발을 늦추고 더 강한 감독이 필요하다는 생각으로 수렴함
  • 공개적으로 두드러진 계기는 Dario가 AI 발전 속도 조절을 주제로 발표한 에세이임
  • 그러나 이 상황에는 회의적인 해석도 가능함
  • 안전 우려가 합리적이고 진실하더라도 규제를 요구하는 행위가 경제적 자기 이익에 기여할 수 있음

산업 규제와 자기 이익

  • 이는 정치경제학에서 잘 알려진 관점임
  • 시카고학파 경제학자 George Stigler는 다음과 같이 주장함

“일반적으로 규제는 산업이 획득하며, 주로 산업의 이익을 위해 설계되고 운영됨.”

  • 출처는 Stigler, G. J. (1971)임
  • 따라서 규제를 요구하는 기업의 유인을 함께 살펴볼 필요가 있음

후발 경쟁자의 진입 장벽

  • 첫 번째 유인은 자신들이 통과한 문을 닫는 것, 즉 사다리를 걷어차는 것임
  • 프런티어 AI 기업은 비교적 허용적인 환경에서 성장했으며, 그 환경은 이들에게 막대한 재량과 실험 공간을 제공함
  • 이제 이 기업들이 자리를 잡은 상황에서 규제는 다음 진입자의 비용을 높이는 효과적인 수단이 될 수 있음
  • OpenAI, Anthropic, xAI는 대규모 법무팀, 규정 준수 담당자, 안전 연구자, 감사 인력, 대정부 업무팀을 감당할 수 있음
  • 신규 진입자는 이를 감당할 수 없음

경쟁과 규제의 선택

  • 실리콘밸리에서는 경쟁이 규제보다 나은 경우가 많다는 주장을 흔히 들을 수 있음
  • 따라서 건전한 회의론은 이번 사안에서 경쟁이 경로가 아닌 이유를 묻게 함
  • Amodei의 제안은 프런티어 AI 기업 간 조정을 요구하며, 이를 위해 독점금지 규정의 예외가 필요할 수 있음을 인정함
  • 이러한 조정은 안전 측면에서 정당화될 수 있음
  • 동시에 경제적 논리도 존재함
  • 모든 프런티어 연구소가 차세대 모델을 향한 경쟁에 더 적은 비용을 쓰기를 원하더라도, 경쟁자가 계속 가속하는 동안 어느 한 곳도 속도를 늦추기 어려운 상황임
  • 규제는 이 공동 감속을 조정하는 효과적인 수단이 될 수 있음

기존 기업의 규제 설계 영향력

  • 또 다른 가능성은 기존 기업이 규제 설계에 막대한 영향력을 행사하는 시점에 작성되는 규제를 선호할 수 있다는 점임
  • 규제 노력을 주도하면 예측 가능성과 정당성을 확보할 뿐 아니라, 무엇을 ‘책임 있는 AI’로 볼지 정의할 기회도 얻게 됨

기술적 둔화와 의도적 둔화

  • 더 추측에 가까운 가능성도 있음
  • 차세대 모델의 성능 개선이 점점 더 어렵거나 비용이 많이 드는 상황일 수 있음
  • 그렇다면 의도적인 속도 완화에 대한 기대를 설정하는 편이 기술적 둔화에 직면하는 것보다 나을 수 있음
  • 전자는 신중함의 신호인 반면, 후자는 기술 자체의 문제임

규제 제안의 유인 분석

  • 이러한 설명 중 어느 것이 옳은지는 알 수 없음
  • 실제 위험이 없다고 말하는 것도 아님
  • 바로 그 점이 핵심임
  • 어떤 제안이 사회적으로 바람직할 수 있다는 사실이 그 제안을 내놓은 기업의 사적 유인을 분석할 의무를 없애지는 않음
  • 규제는 공포에 따른 행위가 되어서는 안 됨
  • 한 산업의 지도자들이 규제를 요구하는 행위에는 잘 알려진 유인이 반영됨
  • 이러한 유인을 고려해야 하며, 규제 판단에는 건전한 회의론이 필요함