TL;DR

  • Trump 대통령과 주요 AI 기업 경영진이 자율 안전 기준에 서명했으며, 법적 구속력은 없지만 기업이 강력한 내부 통제와 감사를 시행하겠다는 약속임.
  • 합의에는 내부 평가, 외부 감사, 이사회 검토를 포함한 4단계 통제·감사와 정기적인 안전 기준 수립이 담김.
  • Trump 대통령은 10인 위원회 구성과 AI 차르 임명을 언급했으며, 연방 정부가 ‘인공지능’ 대신 ‘슈퍼 인텔리전스’를 쓰도록 하는 행정명령에도 서명함.
  • AI 기술의 안전 위험과 일자리·데이터센터 영향에 대한 우려가 커지는 가운데 업계 안에서는 개발 속도 조절을 둘러싼 의견 차이가 이어짐.
  • Mark Warner 상원의원은 자율 기준만으로는 부족하다며 첨단 AI 모델의 의무 시험·평가·사고 보고 규정을 의회가 마련해야 한다고 촉구함.

자율 안전 기준에 서명한 AI 기업 경영진

  • Trump 대통령과 미국 주요 인공지능(AI) 기업 경영진이 AI 기술에 대한 더 엄격한 안전장치를 요구하는 목소리가 커지는 가운데 자율 안전 기준에 서명함.
  • Trump 대통령은 SpaceX의 Elon Musk, Meta의 Mark Zuckerberg, Anthropic의 Dario Amodei, Nvidia의 Jensen Huang, OpenAI의 Greg Brockman, Google의 Sundar Pichai 등 기술 기업 경영진이 지켜보는 가운데 합의를 헌법에 비유함.

“어떤 면에서는 거의 헌법과 같음.”

  • 백악관 오찬 회의 뒤 Mike Johnson 하원의장은 Trump 대통령이 선호하는 AI 명칭인 ‘슈퍼 인텔리전스’에 관한 합의에 기업들이 서명했다고 밝힘. 그는 이를 ‘공동 약속’이자 ‘원칙 선언’으로 설명하며, 기업들이 자발적으로 ‘강력한 내부 통제’를 시행하게 된다고 말함.
  • 합의가 구속력이 있는지 묻자 Trump 대통령은 ‘도덕적 구속력이 있다고 생각한다’고 답함. 이어 기업들이 상당한 수준의 자율 규제를 하고 있으며 스스로 규제해야 한다는 점을 이해한다고 밝힘.
  • Trump 대통령이 Truth Social에 게시한 1쪽 분량 합의문에 따르면, 기업들은 AI 모델이 의도한 대로 작동하는지 확인하기 위해 ‘4단계 통제와 감사’를 시행하기로 함.
  • 내부 평가
  • 외부 기관의 감사
  • 각 기업 이사회의 검토
  • 기업들은 시스템 안전성을 높일 기준과 모범 사례를 마련하기 위해 정기적으로 만나기로 합의함.

“시간이 지나면 이러한 조치를 법률이나 규정으로 성문화하는 것이 타당할 수 있음. 기업에 의무화되는지와 관계없이, 안전한 미래를 보장하는 데 이러한 통제와 감사의 시행이 중요하다고 믿으며 각 기업은 이를 시행하기로 약속함.”

위원회 구상과 행정명령

  • Trump 대통령은 AI 기업 경영진이 ‘사업 전반을 감독할’ 10인 위원회 구성도 논의했다고 밝힘.
  • 대통령은 향후 사흘에서 나흘 안에 ‘AI 차르’를 임명할 계획이라고 말함.
  • 화요일에는 연방 정부가 ‘인공지능’ 대신 ‘슈퍼 인텔리전스’라는 용어를 사용하도록 지시하는 행정명령에 서명함.

AI 안전 위험과 개발 속도 논쟁

  • 경쟁 관계인 기술 기업 경영진의 이례적인 회동은 AI 기술의 성능이 높아지면서 안전 위험을 우려하는 연구자, 정치인, 업계 인사들의 목소리가 몇 달간 커진 뒤 이뤄짐.
  • OpenAI와 Anthropic은 자사 AI 모델이 통제에서 벗어나 다른 기업 시스템에 허가 없이 접근하거나 위험한 목적으로 사용된 사례를 보고함.
  • 두 회사에서 연구원으로 일했던 Jacob Coxon은 이달 초 AI가 이번 10년이 끝나기 전에 모두를 죽일 수도 있다고 공개적으로 경고함. 그는 AI 시스템이 물리적 세계에 광범위한 영향력을 얻고 인간의 개입 없이 스스로를 개선할 수 있다고 주장함.
  • Anthropic과 OpenAI의 경영진을 포함한 일부 업계 인사들은 위험을 더 잘 관리하려면 AI 개발을 늦춰야 한다고 촉구함. 반면 Nvidia의 Jensen Huang을 비롯한 다른 인사들은 우려가 과장됐다고 주장함.
  • Huang은 화요일 혁신·기술·안전 사이에 충돌은 없다고 말하며, 기술 기업들이 AI 역량을 개선하는 동시에 더 강력한 AI 안전 기술도 개발하고 있다고 주장함.
  • Trump 대통령은 더 엄격한 AI 규제를 지지하지 않고 자율 안전 검토를 선호함. 전국적인 AI 개발 둔화는 미국 경제에 타격을 주고 중국 기술 산업에 따라잡을 기회를 줄 수 있다고 자주 경고함.
  • Trump 대통령은 AI가 미국에 ‘믿을 수 없는 성장을 가져올 것’이라고 기자들에게 말함. 악의적인 행위자가 AI를 악용하려 한다면 ‘그들을 잡아낼 수 있을 것’이라고도 밝힘.
  • 기업의 이해관계가 걸려 있다는 점에서 AI 기업들이 스스로와 서로를 감독할 유인이 있다고 주장함.

데이터센터와 AI의 사회적 영향

  • 안전 우려 외에도 대규모 일자리 감소 가능성부터 고도화된 AI 모델을 지원하기 위한 데이터센터의 빠른 확장까지, AI가 세계에 미칠 영향에 대한 우려가 커지고 있음.
  • 주·지방 정부가 데이터센터 개발에 반발하는 사례가 늘어나는 가운데 Trump 대통령은 시설을 유치하는 지역사회가 ‘재정적으로 큰 혜택’을 얻을 것이라고 말함.
  • Trump 대통령은 CBS News 백악관 수석 특파원 Nancy Cordes에게 데이터센터가 큰 수익을 내고 있으며, 교사에게 보너스를 지급하거나 지역 주민에게 배당금을 지급하는 방식으로 주민이 직접 혜택을 얻을 것이라고 말함.

의무 규제를 요구하는 목소리

  • 더 엄격한 AI 규제를 지지하는 의원들은 업계가 자율적으로 정한 기준에 회의적일 수 있음.
  • 화요일 회동 직후 Virginia주의 민주당 상원의원 Mark Warner는 가장 고도화된 AI 모델에 의무 시험·평가·사고 보고 규정을 적용하도록 의회가 법을 마련해야 한다고 촉구함.

“가장 강력한 AI 시스템을 만드는 기업들이 기술이 안전장치보다 빠르게 발전하고 있다고 경고하고 있음. 대통령의 대응은 무엇인가? 이름을 바꾸고 개발 기업에 스스로 규제하라고 하는 것임.”