TL;DR

  • 미국 정부가 국제적 AI 안전 규칙에 반대하며 개발 가속을 주장하는 가운데, 유엔과 기업, 여론은 조율된 안전 기준을 지지함.
  • 도널드 트럼프 대통령은 AI를 현재 상태 그대로 두자고 했으며, 중국의 시진핑 주석과 중국 관리들은 책임 있는 개발과 세계적 관리 체계를 주장함.
  • 미국의 공식 지지 없이는 국제 합의 이행이 어려워 각국이 구속력 없는 규칙과 모범 사례에 의존할 가능성이 큼.
  • 선도 AI 연구소들은 경쟁이 치열한 상황에서도 자체 규제와 시험 기준 조율을 추진하며, 주요 AI 기업 최고경영자(CEO)들도 국제적 안전 조율을 지지함.
  • 미국인의 다수는 중국보다 앞서야 한다는 주장에 회의적이며, 의회 공화당 의원들은 트럼프 대통령의 가속 기조와 달리 안전 대책과 규제를 추진함.

백악관의 관점

  • 백악관과 동맹 세력은 정부가 기본 규칙을 정하지 않은 채 미국의 AI 개발을 가속해야 한다고 주장함.
  • 뉴욕 유엔 총회와 이번 주 워싱턴에서 시진핑 중국 국가주석과 만난 자리에서 도널드 트럼프 대통령 측은 미국 기업이 AI를 선도하며 그 지위를 유지할 계획이고, 기술을 억제하려는 국제적 시도는 거부한다고 밝힘.
  • 트럼프 대통령은 AI를 “정확히 지금 상태로” 두자고 했으며, 시진핑 주석은 책임 있는 AI 개발이 필요하다고 밝힘. 중국 관리들도 이번 주 세계적 관리 체계를 지지한다고 밝힘.
  • 미국의 공식 지지가 없으면 관련 합의를 실행하기 어려움. 백악관 과학기술 고문 Michael Kratsios는 유엔 연설에서 세계적 노력을 “개입”이라고 부르며 거부함.
  • 이에 따라 각국은 가장 큰 기업들의 본국인 미국의 동의 없이 구속력 없는 규칙과 모범 사례를 마련하게 될 가능성이 있음. 한편 최첨단 연구소들은 경쟁이 치열한 환경에서 시험 기준에 합의하는 자체 규제 체계를 추진함.
  • AI 기업 최고경영자들조차 트럼프 대통령보다 유엔의 입장에 더 가까움. 기업들은 “AI 속도 조율”을 추진하며 안전에 관한 세계적 조율 노력을 지지하고, 책임 있는 AI 사용 기준을 스스로 정할 수는 없다고 밝힘.
  • 유엔 AI 국가안보 회의를 주재한 프랑스 관리 Jean-Noël Barrot은 OpenAI, Anthropic, Hugging Face 최고경영자들이 참석한 자리에서 “국제사회는 최첨단 AI 모델의 위험을 관리할 공동 체계를 마련해야 한다”고 밝힘.
  • 여론조사에 따르면 미국인은 대체로 미국이 AI 개발에서 중국을 반드시 이겨야 한다는 주장에 회의적이며, 기술 발전 속도가 일자리와 생계를 위협할 정도로 빠르다고 우려함. 이러한 우려는 정당을 가리지 않고 나타남.
  • 트럼프 대통령이 국제사회와 상당수 유권자에게서 고립된 상황은 의회 공화당 의원들을 난처하게 함. 공화당 의원들은 AI 안전과 개발 속도 조절을 주장하고 초당적 AI 규제 법안을 발의하는 한편, 당 대표는 개발 가속을 밀어붙임.
  • Semafor가 목요일 처음 보도한 바에 따르면, 인디애나주 공화당 상원의원 Todd Young은 Marco Rubio 국무장관에게 국가안보회의(NSC) 회의를 소집해 사이버 전문가와 AI 개발자들이 핵심 기반 시설을 겨냥한 AI 기반 공격 가능성 등 잠재적 국가안보 위협을 논의하도록 요청함.

“미국은 인공지능의 개발과 배치에서 세계를 계속 선도해야 합니다. 그 지도력을 유지하려면 정부가 새롭게 등장하는 역량에 보조를 맞추고 그 역량이 초래할 수 있는 위험을 이해해야 합니다.”

  • Todd Young은 Marco Rubio에게 보낸 서한에서 이같이 밝힘.

의견이 엇갈리는 지점

  • 트럼프 대통령의 동맹 세력은 현재의 엄격한 AI 안전 규칙 요구에 숨은 의도가 있다고 보는 경우가 많음.
  • 일부는 OpenAI, Google DeepMind, Anthropic 같은 대기업이 자신들만 준수할 수 있는 법안을 만들도록 영향력을 행사해 규제 포획을 노린다고 주장함.
  • 다른 이들은 AI가 인류를 멸종시키거나 일자리를 없앨 수 있다는 믿음인 “파멸론”을 과장되고 추측에 불과하다고 비판함. 백악관은 많은 AI 안전 단체와 연관된 효과적 이타주의 공동체를 비판하는 전략도 점차 활용함.
  • 그러나 대통령 메시지의 핵심은 단순함. 더 저렴한 오픈소스 모델을 보유한 중국이 AI 경쟁에서 우위를 얻을 수 있는 일은 미국이 해서는 안 된다는 주장임.

주목할 소식

  • The Information 보도에 따르면 Google, Anthropic, OpenAI의 AI 안전 조율 그룹이 구체화되고 있음.