TL;DR

  • 미국 연방수사국(FBI)·국가안보국(NSA)·사이버보안 및 기반시설 보안국(CISA)은 중국 주요 AI 기업들이 2024년 이후 Anthropic의 Claude, OpenAI의 ChatGPT, Google의 Gemini, xAI의 Grok을 포함한 미국 최첨단 AI 모델을 체계적으로 채굴해 자체 모델을 구축했다고 밝힘.
  • 증류(distillation)는 AI 업계에 널리 퍼진 관행이지만, AI 기업의 서비스 약관을 위반하는 경우가 많음.
  • 보고서는 DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun, Z.AI 등 중국 주요 AI 개발사 6곳을 특정하고, 증류가 이들 기업 모델 개발의 보조 수단이 아니라 핵심이라는 평가를 제시함.
  • 미국 기관들은 미국 AI 기업에 유료 서비스 이용자 확인 강화, 의심스러운 행위에 대한 정보 공유, 악의적 가능성이 있는 질의에 대한 응답 하향 조정 또는 변경을 권고함.
  • 보고서는 해당 증류 캠페인이 중국 정부의 인지 아래 진행됐을 가능성이 높음이라고 밝혔지만, 중국 정보기관의 관여를 주장하지는 않음.

미국 기관들의 중국 AI 증류 지적

  • 미국 연방수사국(FBI), 국가안보국(NSA), 사이버보안 및 기반시설 보안국(CISA)은 화요일 발표한 경보에서 중국 주요 AI 기업들이 2024년 이후 미국 기업의 최첨단 AI 모델을 체계적으로 채굴해 자체 모델을 구축했다고 밝힘.
  • 대상에는 Anthropic의 Claude, OpenAI의 ChatGPT, Google의 Gemini, xAI의 Grok이 포함됨.
  • 이러한 관행은 증류(distillation)로 불리며 AI 업계에 널리 퍼져 있지만, AI 기업의 서비스 약관에 위배되는 경우가 많음.
  • 최근 몇 달 동안 미국 기업과 정부 관계자들은 중국 모델이 미국 모델을 증류해 구축된다는 주장을 점점 더 많이 제기함.
  • 미국은 수년 동안 중국이 미국 기업의 지식재산을 탈취한다고 비난해 왔음.
  • 화요일 보고서는 증류 캠페인이 “중국 정부의 인지 아래 진행됐을 가능성이 높음”이라고 밝혔지만, 중국 정보기관이 관여했다고 주장하지는 않음.

미·중 AI 경쟁과 중국 정부의 반박

  • 백악관은 미국이 최첨단 AI 개발 경쟁에서 중국과 경주하고 있다고 자주 설명함.
  • Donald Trump 대통령은 9월 24일 중국 지도자 Xi Jinping과 만날 예정임.
  • 최근 몇 주 동안 양국 정부 관계자들은 중국이 AI 영업비밀을 부적절하게 탈취했는지를 두고 공방을 벌임.
  • 중국 외교부 대변인은 수요일 해당 보고서를 구체적으로 확인하지 못했다고 밝히면서, 중국의 AI 개발은 “높은 수준의 과학기술 자립의 결과”라고 말함.

“우리는 모든 당사자가 협력을 강화해 인류 전체의 복지를 위한 개방적이고 포용적이며 유익하고 윤리적인 AI 발전을 촉진해야 한다고 항상 믿음.”

  • 중국 외교부 대변인 Mao Ning은 베이징 정례 브리핑에서 위와 같이 말함.
  • Mao Ning은 미국이 “근거 없는 비난을 제기하기보다 중국과의 AI 협력을 강화해야 함”이라고 덧붙임.

지목된 중국 AI 개발사와 증류 규모

  • 보고서는 중국 주요 AI 개발사 6곳을 지목함.
  • DeepSeek
  • Moonshot AI
  • Alibaba
  • MiniMax
  • StepFun
  • Z.AI
  • 보고서는 특정 중국 모델이 특정 미국 모델에서 “법률 전문화 최적화”, “에이전트 기능”, “코치·보조 기능”과 같은 주제를 증류했다고 주장하는 긴 목록을 포함하는 등 상당한 세부 사항을 제시함.

“이러한 캠페인의 막대한 규모와 정교함은 증류가 이들 기업의 AI 모델 개발을 보완하는 수단이 아니라 그 핵심임을 보여줌.”

  • 보고서는 위와 같이 평가함.

미국 기업의 기존 증류 의혹 제기

  • 미국 기업들은 적어도 지난해부터 증류 의혹을 산발적으로 제기함.
  • OpenAI는 지난해 DeepSeek가 ChatGPT를 “부적절하게” 기반으로 모델을 구축했다고 밝힘.
  • Google은 2월 Gemini를 복제하려는 시도가 쇄도했다고 밝혔지만, 의심 대상을 특정하지는 않음.

미국 기업을 위한 권고

  • 보고서는 미국 기업을 위한 권고 목록도 제시함.
  • 미국 모델의 구독 서비스에 비용을 지불하는 이용자의 신원과 자격을 더 철저히 확인할 것을 권고함.
  • 의심스러운 행위에 관한 정보를 기업 간에 공유할 것을 권고함.
  • 특정 경우 악의적이라고 판단되는 질의에 대한 응답을 하향 조정하거나 변경할 것을 권고함.

백악관의 중국 AI 증류 대응

  • 4월 백악관 과학기술정책실장 Michael Kratsios는 중국의 미국 AI 시스템 증류를 중대한 문제로 강조하는 메모를 연방기관 수장들에게 회람함.
  • Kratsios는 증류가 중국 기업이 미국의 혁신에 무임승차하고 미국 시스템에 내장된 안전장치를 우회하도록 한다고 작성함.
  • Kratsios는 7월 X에서 Moonshot이 Anthropic의 고급 Fable 모델을 증류해 Kimi K3 시스템을 개발했다고 밝힘.

“더 작고 효율적인 모델을 만들기 위한 합법적인 AI 증류는 이 개방형 혁신 생태계에서 중요한 역할을 함.”

  • Kratsios는 4월 메모의 표현을 되풀이하며 위와 같이 작성함.

“미국의 독점 기술을 탈취하고 미국의 연구를 약화시키려는 대규모 비밀 산업 증류는 용납할 수 없음.”