TL;DR

  • Bernie Sanders 상원의원과 Greg Casar 하원의원이 인류를 파괴하거나 무력화할 수 있는 인공 초지능(artificial superintelligence) 개발을 금지하고 위반자에게 최대 징역 20년을 부과하는 법안을 발의함.
  • 법안은 일정 기준 이상의 데이터로 훈련된 첨단 인공지능(AI) 시스템을 프런티어 모델(frontier model)로 분류하고, 정부 감독 체계가 마련될 때까지 개발을 중단하도록 함.
  • 과학자 주도 인공지능부(Department of Artificial Intelligence)가 프런티어 모델을 감독하고 위험 기능 제거와 초지능 폐기를 관리하도록 규정함.
  • AI 기업이 첨단 모델을 개발하려면 인공지능부의 허가를 받아야 하며, 기업 소속이 아닌 규정 위반자도 처벌 대상에 포함됨.
  • 법안 발의는 AI 개발 속도와 안전 우려를 둘러싼 규제 논의가 이어지는 가운데 이뤄졌으며, Bernie Sanders는 인류의 미래가 걸린 만큼 빅테크 경영진에게 규칙을 맡길 수 없다고 주장함.

초지능 개발 금지 법안

  • Sen. Bernie Sanders(I-VT)와 Rep. Greg Casar(D-TX)가 인공 초지능 개발을 금지하는 새 법안을 발의함.
  • 법안은 인공 초지능을 정부 전복을 포함해 “인류의 파괴 또는 무력화”를 초래할 수 있는 기술로 규정함.
  • ‘인공 초지능 금지법(Ban Artificial Superintelligence Act)’에 따라 법을 위반한 AI 업계 지도자는 최대 징역 20년에 처해질 수 있음.
  • 법안은 초지능뿐 아니라 의원들이 특정 데이터 기준으로 훈련된 프런티어 모델로 분류하는 첨단 AI 시스템의 개발도 중단하도록 함.
  • 정부가 기술을 감독할 과학자 주도 인공지능부를 설립한 뒤에야 첨단 AI 개발을 재개할 수 있도록 규정함.
  • 인공지능부는 프런티어 AI 모델을 감시하고 위험 기능을 제거하며, 인공 초지능의 “폐기를 감독”하는 역할을 맡음.
  • 법안에 따르면 AI 기업은 첨단 AI 모델을 개발하기 전에 인공지능부의 허가를 받아야 함.
  • AI 기업 지도자가 법을 위반하면 최대 징역 20년형에 처해질 수 있으며, 법안 요약 자료는 이 처벌이 “핵무기를 불법 개발한 경우의 기존 처벌과 유사하다”고 설명함.
  • 같은 처벌은 AI 기업에 고용되지 않은 채 규정을 위반하는 “독자 행위자”에게도 적용됨.
  • 도널드 트럼프 대통령은 공식 문서에서 ‘AI’ 대신 ‘초지능’이라는 용어를 사용하겠다고 밝힌 바 있음.

AI 개발 속도와 규제 우려

  • AI의 급속한 개발에 대한 우려와 개발을 늦춰야 한다는 요구가 커지는 가운데 법안이 발의됨.
  • AI 모델이 시험 환경을 벗어나 다른 기업을 해킹했다는 보도가 이어졌으며, Anthropic의 전 연구원은 이달 초 AI가 이번 10년이 끝나기 전에 “모든 인간을 죽일” 가능성이 10퍼센트보다 높다고 말함.
  • 지난주 Gavin Newsom 캘리포니아 주지사는 프런티어 모델을 위한 “킬 스위치”를 제안함.
  • 전반적으로 AI 규제의 향방은 여전히 불확실한 상황임.

“절벽을 향해 달리고 있다면 액셀러레이터에서 발을 떼는 것만으로는 충분하지 않음. 브레이크를 밟아야 함.”

“인류의 미래가 걸려 있을 때 빅테크 최고경영자 몇 명에게 스스로 규칙을 만들도록 맡길 수 없음.”

— Sen. Bernie Sanders, 보도자료