생성형 AI가 국경 넘는 탄압을 확장한다

중국과 연계된 한 운영자는 앤스로픽의 생성형 AI 비서 Claude를 이용해 시리아에 사는 위구르족을 추적하고, 공동체에서 잠재적 정보원을 모집했다. 모델은 메시지를 번역하고 현지 방언으로 소통하는 일을 도왔으며, 사람들의 위치를 파악했다. 특히 경제적 어려움을 겪거나 중국 북서부 신장 위구르 자치구에 남은 가족과 떨어져 지내는 취약한 사람들을 찾아냈다. 위구르족 대다수가 사는 신장에 대한 설명은 미 의회 조사국 자료를 참조할 수 있다. Claude는 흩어진 디지털 흔적을 표적화된 정보로 바꿔 박해받는 소수민족에 대한 중국의 감시 범위를 넓히는 데 쓰였다.

이 사례는 앤스로픽 위협정보팀이 2026년 9월 10일 발표한 보고서에 담긴 AI 기반 디지털 초국가적 탄압 사례 가운데 하나다. 보고서는 생성형 AI가 국경을 넘는 탄압에 실제로 활용되고 있으며, 권위주의 정부와 그 대리자들이 해외 거주 활동가와 망명 반체제 인사를 찾아내고 감시하며 표적으로 삼는 작업을 확장 가능한 절차로 구축할 수 있음을 보여준다.

이런 작전은 여러 관할권에 걸쳐 사람들을 겨냥하고 오프라인 강압으로 이어질 수 있다. 따라서 AI 기업은 초국가적 탄압을 국내 감시나 영향력 공작과 구분되는 별도의 위협 유형으로 다뤄야 한다. 범용 고성능 AI 모델을 개발하는 프런티어 AI 기업은 앤스로픽처럼 디지털 초국가적 탄압 사건을 구체적으로 추적하는 상세 보고서를 공개해야 한다. 위협을 탐지하고 피해 공동체에 알리며, 위협 조사 과정에서 확보한 증거를 보존하는 절차도 마련해야 한다. 이런 조치는 억압적인 정부가 국경 너머에서 미국 기술을 악용하는 일을 억제하고, 이미 취약한 표적 집단을 보호하는 데 도움이 될 수 있다.

디지털 초국가적 탄압에 AI가 쓰이는 방식

디지털 초국가적 탄압은 정부가 디지털 기술을 이용해 망명 중이거나 해외 디아스포라 공동체에 속한 반체제 인사와 다른 반대자를 위협하고 침묵시키는 행위를 말한다. 해킹과 감시부터 온라인 괴롭힘, 조직적인 비방까지 수단은 다양하다. 정부는 이를 통해 정치적 강압을 자국 영토 밖으로, 표적의 사생활 깊숙이까지 확장한다. 디지털 공격은 망명자를 스토킹하거나 폭행하고 납치하거나 심지어 암살하는 등 물리적 위협의 발판이 될 수도 있다. 이 개념에 대한 프리덤하우스의 설명도 공개돼 있다.

초국가적 탄압은 표적이 된 개인뿐 아니라 민주주의의 기반에도 심각한 피해를 줄 수 있다. 피해자 인터뷰와 연구에 따르면 디지털 위협은 망명자와 디아스포라 공동체에 고통과 공포, 불확실성을 일으킨다. 안전과 안녕에 대한 감각을 약화시키고 사회적 관계를 해치며 고립을 초래한다. 자기검열과 활동 위축도 부른다. 그 결과 시민사회가 디지털 도구로 국경을 넘어 자유롭게 소통하고 조직하며 행동할 능력이 크게 저해된다.

AI가 이런 탄압에 쓰일 수 있다는 이전의 경고는 구체적 사례보다 기술의 가능성을 바탕으로 추론하는 경우가 많았다. 앤스로픽 보고서는 국가 행위자들이 고성능 모델을 이용해 국내외 탄압 수단을 확장하는 구체적인 방식을 보여준다. AI 모델이 디지털 초국가적 탄압을 강화하고, 억압적인 정책이 이를 실행하는 국가의 국경 밖으로 퍼지도록 돕는다는 것이다.

보고서가 제시한 첫 번째 변화는 AI가 운영 비용을 낮춰 탄압을 더 쉽게 실행하게 한다는 점이다. 디지털 탄압 작전에는 보통 언어 능력과 훈련된 정보 분석가, 소프트웨어 엔지니어가 필요했다. 보고서의 사례들은 AI가 이런 전문성의 일부를 대신할 수 있음을 시사한다. 시리아 위구르족을 겨냥한 작전에서 운영자들은 아랍어를 하지 못했지만 Claude를 이용해 표적의 취약성을 분석하고 시리아 방언으로 모집 대본을 작성했다. 이란 정부의 지원을 받은 세 건의 영향력 공작에서는 행위자들이 여러 언어로 복잡한 캠페인 계획과 작전 매뉴얼, 가상 인물 체계를 만들었다. 이들은 박해받는 바하이교 소수 종교 집단과 국내외 이란 반대 인사 등을 겨냥해 정권의 서사를 확산하려 했다.

두 번째는 AI 모델이 디지털 흔적을 특정 인물을 추적할 수 있는 상세 정보로 바꾼다는 점이다. 디아스포라 공동체는 소셜미디어와 메시지 플랫폼, 공개 데이터베이스, 단체 웹사이트에 공개 데이터를 대량으로 남긴다. AI 비서는 흩어진 데이터를 구조화해 상세한 정보 보고서로 만들 수 있다. 이런 보고서는 사회관계망과 관계를 재구성하고 정치적 성향을 추론하며 위치를 파악하고 취약성을 표시할 수 있다.

한 사례에서는 걸프 지역의 아랍어권 고객을 위해 일했을 가능성이 있는 상업 정보업체가 디아스포라 이용자의 소셜미디어 활동을 분석하는 플랫폼을 만들었다. 이 플랫폼은 이용자의 위치를 지도에 표시하고 친정부 또는 반정부 성향으로 분류했다. 앤스로픽은 이 작전이 배치되기 전에 중단했다.

세 번째로 Claude는 국경을 넘어 표적 정보를 반복적으로 수집하는 표준화된 작업 흐름에 통합되고 있다. 억압을 실행하는 운영자들은 모델을 이용해 감시 시스템 전체와 지원 기반을 구축한다. 그 결과 소규모 인력으로도 반복적이고 부분 자동화된 감시 보고서를 관리할 수 있다. 한 사례에서 중국 보안업체는 정부 관료를 위한 일일 ‘여론’ 보고서를 Claude로 작성했다. 보고서는 “반체제 인사, 활동가, 소수민족 및 중국 디아스포라 공동체, 외신을 정치 안정에 대한 위협으로 분류”했다. 업체는 하루 15~30건 이상의 외신 기사를 자동으로 검토하는 시스템도 만들었다. 보고서에는 정부의 단속 조치에 관한 권고가 포함돼 해외 공동체 감시를 일상적인 관료 업무로 바꿨다.

마지막으로 보고서는 AI 기반 감시가 실제 초국가적 탄압 행위로 이어질 수 있음을 뒷받침한다. AI가 만든 정보는 물리적 감시와 강압, 정보원 모집, 요원 투입, 시민사회 활동 방해에 쓰일 수 있다. 시리아 위구르족을 겨냥한 작전에서 운영자들은 Claude로 표적의 실제 위치와 압박 수단으로 활용할 수 있는 가족을 찾아냈다. 다른 작전에서는 디아스포라 공동체가 모이는 물리적 장소를 정찰하는 데 AI를 썼다. 종교적 소수자를 겨냥한 중국 연계 작전에서는 Claude가 종교 시설의 “평면도, 정면도, 구조도”를 포함한 실행 가능한 감시 자료를 만드는 일을 도왔다. 또 다른 중국 연계 행위자는 밴쿠버의 시위 경로와 튀르키예의 위구르족 행사, 오슬로 자유 포럼을 조사했다. 보고서는 이런 정찰이 물리적 공격으로 이어졌다고 입증하지는 않는다. 다만 AI를 활용한 분석이 당국의 국경 밖 활동가 감시와 위협, 협박을 지원할 수 있음을 보여준다.

앤스로픽의 보고서는 한 기업이 짧은 기간 동안 파악하고 탐지한 사례만 반영한다. 행위자가 국가와 연계된 업체였는지 확실히 판단하지 못하는 등 일부 귀속 판단의 신뢰도도 제한적이다. 그러나 보고서의 의미는 구체적인 작전 내용을 제시했다는 데 있다. 이전까지 가능성으로 논의되거나 고립된 사례로만 기록됐던 악용 방식이 국경을 넘는 감시와 강압에 더 널리 편입되고 있음을 보여준다. 이는 디지털 초국가적 탄압의 속도와 규모가 우려스러운 방향으로 바뀌고 있음을 시사하며, 이를 가능하게 하는 모델을 개발하는 기업의 책임에 관한 질문을 제기한다.

AI 기업에 필요한 대응

AI 모델이 디지털 초국가적 탄압을 돕는다는 사실은 앤스로픽 같은 기업의 기술이 인권에 부정적인 영향을 미칠 수 있음을 보여준다. 디지털 초국가적 탄압은 최소한 사생활과 표현의 자유, 평화적 집회의 권리를 침해한다. AI 모델은 소셜미디어 콘텐츠 감시부터 용병형 스파이웨어 설치까지 다양한 감시 도구를 국가가 더 쉽게 개발하도록 해 이런 권리 침해를 촉진하고 강화한다. 유엔 기업과 인권 이행원칙(UNGPs은 기업이 자신과 관련된 부정적 인권 영향을 다루도록 요구한다. 이런 피해를 줄이기 위해 AI 기업은 세 분야에 대응해야 한다. 사건 공개와 정보 공유, 탐지와 거부, 디지털 증거 보존이다. 관련 권리 침해에 관한 연구도 있다.

첫째, AI 연구소는 위협 공개와 공동체 통지를 위한 표준 절차를 마련해야 한다. 앤스로픽이 9월 보고서에서 Claude가 촉진한 잠재적·진행 중 위협을 구체적으로 공개한 점은 긍정적이다. 오픈AI와 DeepMind, xAI 등 다른 프런티어 기업도 비슷한 활동을 보고 있을 수 있지만, 표준화된 보고가 없어 확인하기 어렵다. 위협을 정기적이고 신속하게 공개하면 표적 공동체가 대응하는 데 도움이 된다.

기업은 연구자와 시민사회 단체와 협력해 책임 있는 위협 통지 절차를 마련할 수 있다. 구글과 애플을 포함한 여러 기술 기업은 국가 지원 작전의 표적이 된 고객에게 알리는 절차를 운영한다. AI 기업의 표적 공동체는 반드시 고객일 필요가 없다는 점에서 제약이 다르다. 그러나 가능한 조치는 있다. AI 기업은 이미 AI 에이전트에 의해 해킹당한 기업에 통지하고 있다. 그렇다면 표적 공동체가 이해할 수 있는 형식과 언어로 공동체 차원의 통지를 하는 것도 합리적인 방안이다. 구글의 국가 지원 공격 경보와 애플의 위협 알림 안내가 관련 사례다.

둘째, AI 연구소는 디지털 초국가적 탄압에 특화된 안전장치와 위협 탐지·요청 거부 기능을 개선해야 한다. 관련 연구자들과 협력해 이 위협을 식별하는 프롬프트 탐지와 거부 기능을 강화하면 AI 역량이 발전해도 악용을 억제하는 데 도움이 된다. 보고서에 따르면 앤스로픽은 여러 차례 작전이 널리 배치되기 전에 탐지하고 중단할 수 있었다. 하지만 일부 행위자는 모델에 요청을 다시 입력해 거부를 우회했다. 보고서에 소개된 중국 내 감시 사례에서는 경찰학교 학생이 감시 보고서를 요청하자 모델이 처음에는 거부했지만, 학생이 다시 요청하자 응답했고 경찰 표적이 될 10명을 식별했다. 따라서 탐지 시스템은 노골적인 탄압 표현만 찾기보다 소셜미디어 감시, 위치 파악, 취약성 분석, 정치적 성향 추론이 결합돼 초국가적 탄압의 작업 흐름을 이루는지 살펴야 한다.

보고서는 AI 감시가 고급 검색 기능으로 감시를 수행하는 데 그치지 않고, 독립적인 감시 제품을 만드는 공학 지원으로도 활용된다고 보여준다. 예를 들어 이란 행위자는 Claude의 코딩 지원을 받아 소셜미디어 수집과 분석을 위한 Firefox 확장 프로그램을 만들었다. 더 우려스러운 사례로 말리의 국내 감시 작전에서는 보안업체 직원 한 명이 Claude의 공학 및 설계 역량을 이용해 약 2,500만 개의 SIM 카드를 감시하는 대규모 감시 제품 ‘Lakana 360’을 만들 수 있었다. 이 시스템은 현지 모델만으로 작동하기 때문에 앤스로픽이 이용자 계정을 차단했어도 이미 배치된 제품을 비활성화할 수는 없었다. 제품이 실제로 가동되기 전에 조기에 탐지하는 것이 이를 막을 가장 현실적인 방법이다.

셋째, 사건 탐지에는 증거 보존 계획이 포함돼야 한다. 디지털 초국가적 탄압이 피해자의 신체적 피해로 이어진 사건을 둘러싸고 민사 소송과 소송, 형사 수사가 이어지고 있다. 이런 흐름을 고려하면 앤스로픽을 비롯한 프런티어 AI 기업은 향후 수사에 도움이 될 수 있는 귀속 정보를 포함해 상세한 사건 기록을 신중하게 보존해야 한다. 어떤 자료를 보존할지는 현지 법률에 따라 달라지고 논쟁의 여지가 있지만, 기업이 다른 상황을 위해 마련한 체계를 초국가적 탄압 사건에도 명시적으로 적용할 수 있다.

이 세 가지 권고는 AI 기반 디지털 초국가적 탄압에 기업이 합리적으로 대응하기 위해 검토해야 할 기본 조치다. 충분한 안전장치가 없다면 정부와 그 대리자들은 AI 비서를 이용해 국경을 넘는 감시를 더욱 강화할 것이다. 디지털 위협 연구자와 프런티어 AI 기업은 새 도구와 전술의 등장에 맞춰 조기 경보 체계를 마련하고 협력해야 한다. 피해가 탐지되면 기업은 관련 공동체에 알리고 향후 책임 규명에 대비해 증거를 보존해야 한다.