TL;DR

  • 미국이 중국을 앞서기 위해 AI 개발 경쟁을 가속하면 기술 확산을 통해 중국의 AI 역량도 함께 높아지므로, 경쟁의 초점을 사회적 영향으로 옮겨야 함.
  • 도널드 트럼프, Scott Bessent, Chris Coons는 AI 주도권이 국가의 승패와 안보를 좌우한다고 주장함.
  • 중국은 오픈소스 모델 채택, 증류 공격, 우회 프록시, 인재 확보와 학술 협력, 기술 절도를 통해 미국의 AI 발전을 빠르게 흡수함.
  • AI가 전문 지식을 저렴하게 제공하면서 비국가 행위자의 생물무기 개발과 AI 오정렬 위험이 커지고 있으며, 이에 대응하려면 미국과 중국의 협력이 필요함.
  • AI는 인지 능력과 인간관계를 해칠 수 있으며, 사회적 피해가 적은 인구를 가진 국가가 실질적인 경쟁의 승자일 수 있음.

AI 경쟁의 목표는 무엇인가

  • 워싱턴과 실리콘밸리는 AI 패권을 두고 중국을 이기는 데 집중하고 있지만, 이 경쟁이 올바른 목표인지 의문을 제기함.
  • 2026년 9월 아일랜드 둔벡의 골프장에서 도널드 트럼프 대통령은 미국이 중국보다 AI에서 앞서 있으며, AI에서 이기는 쪽이 승리한다고 발언함.
  • Scott Bessent 재무장관은 9월 Breitbart News 행사에서 중국이 AI에서 앞서면 그 이후에는 아무것도 중요하지 않다고 발언함.
  • Chris Coons 상원의원은 미국의 번영과 안전이 AI 경쟁에서 이기는 데 달려 있으며, 중국이 미국을 앞서 무기 역량을 강화하고 미국 산업에 대한 사이버 공격을 극대화하며 장기적인 경제·국가 안보를 위협하게 둘 수 없다고 주장함.
  • 이러한 정치인들의 주장은 두 가지 이유에서 잘못됐다고 봄.
  • AI 발전은 어디서 시작됐는지와 무관하게 전 세계로 확산되며, 특히 미국에서 비롯된 기술은 빠르게 퍼짐.
  • 미국 기업이 가장 앞선 AI 기술 개발을 서두르면 중국의 AI 역량도 함께 빨라짐.
  • 중국은 오픈소스 모델 채택, 미국 모델의 역량을 추출하는 ‘증류 공격’, 지역 차단과 수출 통제를 우회하는 ‘전송 스테이션’ 프록시 암시장, 인재 확보와 학술 협력, 절도 등을 통해 미국의 발전을 신속히 채택함.
  • 따라서 더 중요한 과제는 미국 AI의 전 세계 확산을 억제하는 일임.

AI가 초래하는 위험과 협력의 필요성

  • AI의 가장 큰 위협은 중국의 AI 활용 자체가 아니며, AI가 전문 지식을 거의 누구에게나 매우 저렴하게 제공한다는 점임.
  • 이미 악의적 행위자들이 AI를 사용해 생물무기를 포함한 첨단 무기를 만들고 있음.
  • AI 기반 첨단 무기의 위협은 미국과 중국이 비국가 테러리스트 등으로부터 방어하기 위해 협력해야 할 이유임.
  • 중국은 우려 대상이지만, 지난 세기의 핵확산 문제와 마찬가지로 최선에 가까운 대응은 전면적인 군비 경쟁이 아니라 조약과 합의를 추구하는 것임.
  • 또 다른 주요 위협은 AI 오정렬(AI misalignment)이며, 이는 AI가 통제에서 벗어나 피해를 일으키는 상황임.
  • 실리콘밸리의 AI 지도자들이 이러한 위험을 예방하기 위한 규제를 촉구할 때 트럼프와 동맹 세력은 중국과의 경쟁을 이유로 이를 거부함.
  • 이러한 태도는 AI와 그 위험을 이해하기보다, 익숙한 경쟁자와의 ‘승리’라는 관점으로 AI에 접근하고 있음을 보여주는 증거임.
  • AI 개발의 선두 국가인 미국과 중국은 오정렬 방지에 협력하는 것이 타당함.

또 다른 AI 경쟁

  • ‘어떤 대가를 치르더라도 중국을 이겨야 한다’는 사고방식은 AI를 권력의 원천으로만 보고, 권력이 가장 큰 쪽이 승리한다고 전제함.
  • 그러나 AI의 핵심 영향은 이미 사람들의 생활과 사랑, 사고방식에 나타나고 있음.
  • AI에 사고를 맡기는 인지적 외주화(cognitive offloading)는 기억력, 비판적 사고력, 분석 능력을 약화시켜 사람들을 둔하게 만들고 있음.
  • 사람들은 AI가 자신을 대신해 생각하고 글을 쓰게 하는 데 익숙해지고 있으며, 그 결과 판단력과 창의성, 세상에서 스스로 행동하는 능력이 줄어듦.
  • AI 동반자가 실제 인간관계를 대체하면서 외로움이 심화되고 사회적 교류 능력이 약화되는 등 인간관계에도 피해가 발생함.
  • 앞으로 AI가 삶에 더 깊이 침투하고 AI로 손상된 사람들이 수백만 명에 이르는 사회를 고려하면, 미국과 중국의 AI 경쟁에서 실질적인 승자는 피해가 가장 적은 인구를 가진 국가일 수 있음.
  • 이러한 경쟁의 기준을 적용하면 규제 측면에서는 중국이 앞서고 있음.