조슈아 색스(Joshua Saxe)는 AI의 사이버 역량이 계속 향상되는데도 2022년 이후 전 세계 사이버 피해가 크게 늘지 않은 이유로 범죄 조직의 인력·법 집행 제약과 새 사업 모델을 정착시키는 데 걸리는 시간을 꼽는다. 다만 이는 위험이 사라졌다는 뜻이 아니며, 그는 AI를 활용한 공격이 큰 피해를 낳을 가능성에 미리 대비해야 한다고 주장한다.
색스는 PHP2Shell 같은 취약점이 공격에 이용될 수 있지만, 그 자체로 전체 사이버 피해를 크게 끌어올리지는 않을 것이라고 본다. 지난 10년 동안 온라인 사기와 랜섬웨어가 산업화하면서 피해액은 세 배로 늘었지만, 그 증가는 2022~2023년 ChatGPT와 Llama 3 같은 오픈 웨이트 모델이 등장하기 전부터 나타났고, AI 시대인 2022년 이후에는 오히려 증가세가 둔화했다는 설명이다. 그는 AI 역량의 향상에도 피해가 눈에 띄게 증가하지 않은 현상이 AI 보안 정책의 핵심 과제라고 지적한다. 새로운 위험에 대한 이론이나 정책 개입을 제안하려면, 지금까지 AI로 인한 피해 증가가 뚜렷하지 않은 이유도 설명해야 한다는 주장이다.
범죄 조직과 정부의 제약
색스는 사이버 범죄자가 흔히 상상하는 것처럼 모두 고도로 조직된 전문가인 것은 아니라고 본다. 그의 추정 모델에 따르면 온라인 범죄 경제에는 약 72만 명이 관여하며, 이 가운데 90%는 사기·피싱 콜센터와 비슷한 업무를 한다. 일부는 인신매매 피해자다. 실제 해커 약 7만 6,000명 가운데 대다수는 정부를 위해 일하고, 남은 범죄 해커 수천 명 중 상당수는 랜섬웨어 조직에서 일한다는 추정이다.
범죄 조직은 임금이 낮고 정규 경제에서 선택지가 적은 사람을 고용할 수 있는 중·저소득 국가에 기반을 두는 경우가 많다고 색스는 설명한다. 그는 사기 조직은 나이지리아의 소도시에 있는 불법 콜센터, 랜섬웨어 조직은 벨라루스의 비공식 경제에서 일하는 젊은이들을 떠올려 볼 수 있다고 예를 든다. 사이버 범죄 조직은 인력 확보뿐 아니라 체포·제재·단속·기소의 위험에도 노출된다. 조직 규모가 커질수록 국내외 수사기관의 관심을 끌기 쉬워진다.
색스는 Claude Opus에 이름이 알려진 범죄 조직, 포럼, 봇넷 등 152개 사례를 조사하게 한 결과 대다수가 법적 처분을 받았다고 전한다. 다만 이 사례에는 생존 편향이 있을 수 있다고 단서를 붙인다. 그는 제로데이 취약점에 접근할 수 있는 경우를 제외하면 범죄자들이 법 집행과 인재 확보 같은 현실적 제약을 받는 반면, 방어 조직은 같은 제약을 받지 않는다고 주장한다.
그는 AI 보안 논의가 새로운 취약점(CVE)을 통한 초기 침투 비용에 지나치게 집중한다고 비판한다. 초기 침투는 공격 과정의 한 단계일 뿐이다. 공격자는 인프라를 마련하고 유지해야 하며, 침투 뒤에는 필요한 데이터와 접근 권한을 얻기 위해 네트워크 안에서 이동해야 한다. 랜섬웨어 공격이라면 피해자의 데이터를 인질로 삼고, 대금을 협상하고, 자금을 세탁해 계좌로 옮기는 과정도 거친다. 이 모든 단계에서 수사기관을 피하고 조직원을 모집·유지해야 한다.
랜섬웨어가 수십억 달러 규모의 산업으로 커지는 데는 공격 업무 절차와 사업 모델, 분업 구조가 오랜 시간에 걸쳐 자리 잡아야 했다. 색스는 AI가 일부 단계를 자동화하는 것과 범죄 업무 전반을 자동화해 피해자에게서 돈을 빼내고 세탁하는 에이전트 군단을 운용하는 것은 다르다고 강조한다. 후자와 같은 새 사업 모델이 만들어지고 확산하는 데도 시간이 걸릴 수 있다는 것이다. 또한 현재 AI 노동력은 비용이 높은 편이고, 합법적인 폐쇄형·오픈 모델 제공업체를 통한 추론 기능에 안정적으로 접근하기 어렵다고 지적한다. 제공업체가 공격자를 플랫폼에서 차단하는 일이 빠르고 완전하지는 않더라도, 이런 차단은 범죄 업무를 AI로 자동화하려는 시도에 추가적인 병목이 될 수 있다고 본다.
정부는 범죄 조직과 다른 공격 역량과 동기를 갖고 있다. 인재와 자금에 더 잘 접근할 수 있지만, 민간 기술을 받아들여 실제 업무에 적용하는 데는 역사적으로 느렸다고 색스는 말한다. 그는 미국 정부가 휴대전화, 2010년대의 기계학습, 화상회의를 도입한 속도를 예로 들며 정부의 공격 부대가 에이전트 자동화 중심으로 빠르게 전면 개편될 것이라고 볼 근거는 없다고 주장한다. 정부가 취약점 탐지나 익스플로잇 개발에 AI를 일부 활용하는 것과 조직 전체의 운용 방식을 바꾸는 일은 다르다는 설명이다.
정부에는 사이버 보안 인재를 민간보다 낮은 보수로 확보해야 하는 문제도 있다. 색스는 미국 국가안보국(NSA), 이스라엘 8200부대, 영국 정부통신본부(GCHQ) 출신 인력이 민간 부문으로 옮길 유인이 크다고 지적한다. 또 피해국의 경제나 핵심 기반 시설에 큰 타격을 주는 완전 자동화 공격은 물리적 전쟁의 문턱에 이를 수 있어, 공격국이 보복을 우려해 억제될 가능성이 높다고 본다. 사이버 무기의 공급이 늘어난다고 국가 간 피해 규모도 반드시 커지는 것은 아니라는 주장이다.
대비할 시간은 남아 있다
색스는 2022년 이후 AI가 전 세계 사이버 피해에 큰 순증가를 일으켰다는 증거가 아직 보이지 않는다고 말한다. 그러나 이것이 AI가 사이버 범죄와 국가 간 사이버 분쟁을 바꾸지 않거나, 나중에 재앙적인 피해를 낳지 않는다는 뜻은 아니라고 강조한다. 그의 표현대로라면 종말은 갑자기 오기보다 천천히 다가올 수 있다.
그는 랜섬웨어를 예로 든다. 2008년 ‘크립토바이러스’에 관한 책이 나왔지만 랜섬웨어가 큰 위협이 되기까지는 5~8년이 걸렸다. 범죄 조직이 수사망을 피할 수 있었던 지정학적 조건, 구소련 지역의 젊은이가 정규 소프트웨어 일자리보다 범죄로 향하게 된 정치경제적 환경, 암호화폐 결제 수단의 부상 등이 맞물려 랜섬웨어는 결국 수천억 달러의 피해를 냈다고 설명한다. ‘사이버 진주만’이라는 표현은 2012년에 널리 알려졌지만, 국가 경제를 크게 흔든 국가 간 공격이 나타난 것은 2017년 러시아의 우크라이나 공격과 NotPetya 사태였다고 덧붙인다.
색스가 우려하는 미래는 국가가 이전 공격보다 10~100배 큰 피해를 일으키는 에이전트 군집 역량을 개발하는 경우, 이념적 동기를 가진 행위자가 자기 복제 웜을 퍼뜨려 인터넷 가용성을 떨어뜨리고 연쇄 피해를 일으키는 경우, 범죄 업무 전반을 크게 자동화하는 새 사업 모델이 등장하는 경우다. 그는 AI 안전·보안과 사이버 보안 분야가 이런 가능성을 미리 검토하고 예방책을 마련해야 한다고 주장한다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요