TL;DR

  • 영국이 러시아 등 적대국의 허위정보에 대응할 국가정보방위센터를 설립하고, 국제 협력을 통해 AI 안전 글로벌 원칙과 기준 마련을 추진함.
  • Andy Burnham 총리는 러시아가 매년 약 13억 파운드를 정보 조작에 쓰며 봇과 가짜 웹사이트 등을 활용한다고 비판하고, AI가 기존 위협을 증폭한다고 경고함.
  • 영국은 미국과 유럽연합(EU) 모두와 긴밀한 관계를 활용해 ‘정직한 중재자’ 역할을 맡겠다고 밝혔으며, 내년 G20 의장국 활동에서 AI를 핵심 의제로 다룰 계획임.
  • 노르웨이가 제안한 선언은 20여 개국의 지지를 받았지만 미국·중국·영국은 서명하지 않았으며, 영국 내 모델 안전성 검사는 현재 자발적으로 이뤄짐.
  • 도널드 트럼프 미국 대통령은 AI에 대한 글로벌 통제를 거부하고 규제보다 장려를 강조했으며, 국제 규제 추진에는 미국과 중국의 협력이 필요함.

허위정보 대응 센터 설립

  • Andy Burnham 총리는 뉴욕에서 열린 유엔총회 첫 주요 국제 연설에서 러시아를 포함한 허위정보의 ‘유독한 물결’을 막을 새 센터를 설립하고, 인공지능(AI) 안전 글로벌 기준 마련을 위한 노력을 주도하겠다고 밝힘.
  • Burnham 총리는 러시아 기관들이 봇과 가짜 웹사이트를 포함해 ‘동원 가능한 모든 수단’을 사용해 거짓말과 허위정보를 퍼뜨린다고 경고함.
  • 그는 AI가 기존 위협을 ‘증폭’할 것이라고 말하며, 영국이 기술 분야의 ‘정직한 중재자’가 될 수 있다고 강조함.
  • 최근 업계 관계자들이 AI가 인류를 위협할 수 있다고 경고하면서 AI에 대한 우려가 커진 상황임.
  • Burnham 총리는 러시아가 허위정보 캠페인을 벌이고 있다고 비판하며, 크렘린이 정보 조작에 매년 약 13억 파운드를 지출한다고 유엔총회에서 발언함.
  • 그는 러시아가 봇과 가짜 웹사이트, 조작된 신문 기사, 대학과 BBC를 포함한 영국 단체 28곳의 브랜드를 위조했다고 주장함.
  • Burnham 총리는 해당 캠페인이 사람들의 가정에까지 침투해 자국과 공동체에 대한 감정을 왜곡하고, 쇠퇴 서사를 만들며 분열을 부추기고 절망을 심는 교묘한 활동이라고 설명함.
  • 그는 영국 기업과 기관을 겨냥한 사이버 공격도 있었다며, AI가 위협을 증폭할 것이라고 덧붙임.
  • Burnham 총리는 러시아가 개입을 시도했을 가능성이 매우 높다고 영국 정부가 이전에 밝힌 2019년 영국 총선도 언급함.
  • 이에 대응해 적대국이 벌이는 AI 기반 허위정보 캠페인을 탐지하고 교란할 국가정보방위센터(National Centre for Information Defence) 설립을 발표함.
  • 이 센터는 정보기관, 정부 부처, 법 집행기관, 소셜미디어 기업과 협력해 정보전을 막기 위한 전문성을 결집할 예정임.
  • Burnham 총리의 연설을 듣기 위해 러시아 대표가 현장에 있었으나 러시아 측의 즉각적인 논평은 나오지 않음.
  • 영국 정부가 2020년 선거 개입을 포함한 러시아의 영국 내 활동에 관한 보고서를 발표하자, 모스크바는 해당 주장을 ‘러시아 혐오’라고 규정함.
  • Sergei Lavrov 러시아 외무장관은 총리 연설에 앞서 화요일 모스크바에서 열린 허위정보 포럼에서 서방 언론이 ‘반러시아 상투적 표현과 환상’을 받아들이고 있다고 비판함.
  • Reform UK 대표 Nigel Farage는 러시아와 인도의 실제 봇 계정이 정치에 개입한다는 점을 정부가 ‘구실’로 삼아 표현의 자유를 억압한다고 비판함.

글로벌 AI 안전 기준 추진

  • 총리가 되기 전 Burnham은 AI 규제 방안에 대해 비교적 적게 언급했음.
  • 7월 집권 이후 Burnham 정부는 AI의 위험을 막고 잠재적 이점을 활용하기 위한 국제 협력의 필요성을 강조했으며, 추가 규제와 법률이 필요할 수 있다고 경고함.
  • Burnham 총리는 가장 발전된 ‘프런티어 AI’를 우리 시대의 가장 중요한 도전이자 기회 가운데 하나로 묘사함.
  • 그는 AI가 경제성장의 핵심이면서 위험을 증폭하는 요인이기도 하다고 세계 지도자들에게 말함.

“우리는 모두 경고를 들어왔으며, 이를 유념해야 함. 사람들이 얼마나 걱정하는지 알고 있음. 따라서 이 순간에 대응해야 함.”

  • Burnham 총리는 미국과 유럽연합(EU) 모두와 긴밀한 관계를 맺고 있다는 점에서 영국이 ‘독특한 정직한 중재자’ 위치에 있다고 밝힘.
  • 그는 보수당 총리 Rishi Sunak 재임기에 설립된 영국의 ‘세계 최고 수준’ AI 보안 연구소(AI Security Institute)도 강조함. 이 연구소는 주요 AI 모델이 대중에게 공개되기 전에 안전성을 높이기 위한 검사를 수행함.
  • 영국은 내년 세계 최대 경제국 지도자들이 맨체스터에 모이는 G20 의장국 활동의 핵심 의제로 AI를 다루겠다고 약속함.
  • 영국은 투명성, AI 모델에 대한 접근성, 안전한 개발을 보장하기 위한 글로벌 원칙과 기준 합의를 추진할 계획임.
  • Burnham 총리는 이 작업이 노르웨이의 이번 주 제안 등 다른 국가의 환영할 만한 구상을 한데 모을 것이라고 덧붙임.
  • 독일·캐나다·아일랜드를 포함한 20여 개국이 지지하는 해당 선언은 AI를 인간의 통제 아래 두고 프런티어 모델을 출시 전에 의무적으로 시험할 것을 촉구함.
  • AI 개발을 주도하는 미국과 중국은 물론 영국도 이 선언에 서명하지 않은 상태임.
  • Burnham 총리의 전임자인 Sir Keir Starmer 정부에서 재무부 수석 차관을 지낸 Darren Jones 전 내각 장관은 총리가 선언에 서명하고 미국과 이행 방안을 중재하겠다고 제안해야 한다고 촉구함.
  • Jones 전 장관은 기업과 국가 간 경쟁 우위를 훼손하지 않으면서 의무 검사에 합의할 ‘접점’이 있어야 한다고 주장함.
  • 영국 AI 보안 연구소의 모델 검사는 현재 자발적이며, Anthropic이 최신 모델의 검사를 거부했다는 보도가 나옴.
  • 다우닝가 대변인은 최근 AI 업계 지도자들과의 논의에서 정부가 모델 개발 상황을 ‘완전하고 전적으로 파악할 수 있어야 한다’는 기대를 분명히 밝혔다고 설명함.
  • 총리는 개발자들이 투명성에 관해 중요한 약속을 했지만, 대중의 안전을 지키기 위해 법률 제정을 포함해 어떤 방안도 배제하지 않는다고 인정함.
  • 자유민주당과 녹색당은 정부에 AI 안전을 위한 추가 조치를 취하라고 압박하고 있음.
  • 국제적인 AI 규제 노력에는 미국과 중국의 협력이 필요함.

미국의 규제 반대와 영국·미국 협력

  • 도널드 트럼프 미국 대통령은 Burnham 총리보다 앞서 한 연설에서 AI를 통제하려는 ‘세계주의적 계획’을 구성하려는 어떤 시도도 거부함.

“우리는 AI를 억제하는 것이 아니라 장려할 것임.”

  • 트럼프 대통령은 과거 AI가 인류를 파괴할 수 있다는 경고를 ‘사기’라고 일축한 바 있음.
  • Burnham 총리와 트럼프 대통령은 화요일 처음으로 대면했으나, 다우닝가가 공개한 회담 발표문에는 AI 논의가 언급되지 않음.
  • 한편 영국 정부는 AI 기술을 활용해 핵심 국가 기반시설을 보호하는 데 초점을 둔 영국·미국 간 AI 및 자율성 파트너십을 발표함.