TL;DR

  • 러시아·우크라이나 전쟁과 호주 방위군(ADF)에서 자율 시스템 활용이 확대되는 가운데, 비용·규모·속도상의 이점과 함께 인간 통제·책임·동맹 간 상호운용성 문제가 핵심 쟁점임.
  • 우크라이나와 러시아는 인공지능(AI) 표적화와 자율 유도 기능을 탑재한 드론을 배치하고 있으며, 우크라이나는 전장에 더 많은 로봇을 투입하는 구상을 추진 중임.
  • ADF는 소수의 고가 유인 플랫폼에 의존하는 대신 저비용 반자율 시스템을 대량으로 빠르게 도입하고, 통신이 끊길 수 있는 작전에서 인간을 ‘루프 안’이 아닌 ‘루프 위’에 두는 방안을 검토할 수 있음.
  • 군사 AI 도입에는 인간 검토 절차, 고위험 판단 감사, 최종 결정권에 대한 공개 약속이 필요하며, 동맹국 간 법적 기준과 인간 판단 방식의 차이가 공동 작전을 지연시킬 수 있음.
  • 지속 학습을 하는 AI는 적응력이 높아지는 동시에 행동 예측과 책임 소재 파악이 어려워지므로, 변화하는 환경에서 인간 통제를 보장하는 일이 핵심 과제임.

전장에 투입되는 자율 무기

  • 인간의 감독이 거의 없거나 전혀 없이 작동하는 AI 기반 자율 무기는 속도·규모·비용 측면의 이점을 제공하지만, 통제권을 누가 유지하는지에 관한 어려운 질문도 제기함.
  • 이 글에서 다루는 The Strategist 기사들은 전장에서 자율 시스템이 사용되는 방식, 호주 방위군 내 활용, 미래 전쟁에 미칠 영향을 살펴봄.
  • David Kirichenko에 따르면 러시아·우크라이나 전쟁 최전선에는 이미 자율 드론이 투입됐으며, 양측은 성능을 높이기 위한 군비 경쟁을 벌이는 중임.
  • 우크라이나는 무인 지상 차량에 AI 기반 표적화를 탑재해 적군을 더 먼 거리에서 더 정확하게 탐지하도록 함. Hornet, Darts, RAM-2X 같은 중거리 드론은 자율 종말 단계 표적 고정 유도를 사용해 전자기전에 대한 저항성을 높임.
  • 러시아도 이에 대응하고 있음. Geran Seeker와 Molniya 공격 드론은 메시 네트워킹과 온보드 AI 기반 자율 종말 유도 기능을 탑재했으며, 이미 광범위하게 배치됨.

“이제 로봇 대 로봇 전투가 흔해짐.”

  • Kirichenko가 전하는 우크라이나의 대응은 로봇을 더 투입하는 것임.
  • 가까운 미래에 우크라이나 군사 기획자들은 자율 로봇이 적 진지를 먼저 소탕한 뒤 병력이 진격하는 공격 방식을 구상함. 병사들은 러시아군 표적을 추적하도록 드론을 즉시 신속히 전개하고, 해상 드론은 바다에서 대기하다가 원격으로 활성화된 뒤 자율적으로 표적을 공격하는 구상임.
  • 장거리 타격에서는 AI가 전장 데이터를 통합하고 표적을 식별하며 최적 비행 경로를 계산해 러시아 내부 깊숙한 곳을 타격할 성공 가능성을 높이는 구상임.

호주 방위군과 인도·태평양의 자율 시스템

  • Malcolm Davis는 인도·태평양 지역이 이 같은 변화에서 배울 점이 있다고 봄.
  • Davis는 ASPI의 6월 국방 콘퍼런스 패널을 돌아보며, 소수의 고가 유인 플랫폼에 의존하는 ADF의 방식이 무인 시스템의 빠른 혁신 주기와 “보조가 맞지 않는다”고 주장함.
  • 완전 자율 시스템 대신 반자율 시스템을 제안하며, 이를 “저비용으로 대량 구매하고 빠르게 도입”하면 광대한 지역에 걸쳐 ADF의 전투 규모를 키우는 데 도움이 될 수 있다고 봄.
  • 통신이 끊길 수 있는 빠르게 전개되는 작전에 대응하려면 ADF는 인간을 ‘루프 안’에 두는 방식에서 ‘루프 위’에 두는 방식으로 전환해야 할 수 있음. 운용자는 드론을 원격 조종하는 대신 기계의 행동을 감독하고, 더 많은 결정을 AI에 맡기는 방식임.
  • 자율성은 AUKUS의 수중 영역으로도 확장됨. Davis와 Justin Bassi에 따르면 호주·영국·미국이 5월에 발표한 사업은 Anduril의 Ghost Shark 같은 자율 잠수함에 항해·탐지·공격에 필요한 센서와 무기를 제공할 예정임.
  • 세 파트너가 2027년 인도 목표를 달성한다면—“가능성이 확실하지 않은 큰 전제”임—AUKUS 필러 2는 연구 단계에서 작전상 군사 역량으로 전환됨.
  • 호주는 인터넷 트래픽의 거의 전부를 전달하는 해저 케이블 15개 같은 해저 핵심 인프라를 보호해야 함.
  • 이를 위한 최선의 방법은 무인 자율 선박 군집으로 해저 케이블을 순찰하는 것이며, 이 방식은 유인 잠수함을 해양 접근로와 그 너머에서 전진 작전에 투입할 여지를 마련함.

AI 통제와 인간의 책임

  • ADF는 AI를 통제·관리할 역량보다 빠르게 통합하지 않도록 주의해야 함. Aina Turillazzi는 다음과 같이 지적함.

“AI는 이제 호주 국방 예산의 거의 모든 항목에서 재원을 받음. 그러나 그 모든 항목에서 관리되는 것은 아님.”

  • Turillazzi는 AI 통합이 필요하다고 보면서도, 캔버라가 주요 긴장 고조 지점에 인간 검토를 위한 중단 절차를 마련하고, 중대한 선택에서 AI의 역할을 감사하며, 가장 중대한 결정의 최종 권한을 AI에 부여하지 않겠다고 공개적으로 약속해야 한다고 주장함.
  • 이러한 안전장치가 없으면 AI 시스템을 감독해야 할 사람들이 사실상 형식적인 승인자에 그칠 위험이 있음.
  • AI 시스템은 확률적으로 작동하고 내부 작동 방식이 불투명한 경우가 많으며, 압박을 받는 운용자는 결과를 따르는 경향이 있음. 이는 자동화 편향(automation bias)으로 알려진 역학임.
  • 이때 인간의 역할은 증거를 평가하는 일에서 권고를 확인하는 일로 밀려남. 이러한 경향은 표적 선정에서 정보에 입각한 인간 판단을 요구하는 법적 기준과 충돌하며, 속도를 위해 인간을 의사결정 과정에서 배제하려는 작전상 압력으로 심화됨.

동맹 간 법적 기준과 상호운용성

  • 호주가 자체 규칙을 제대로 마련하더라도 파트너국이 같은 규칙을 공유하지 않을 수 있다고 Samuel White는 지적함.
  • AI가 군사 의사결정에 내재화되면서 White는 인도·태평양 파트너들이 AI 기반 전쟁의 법적·작전상 한계를 충분히 비슷하게 이해해 공동으로 결정할 수 있는지 질문함.
  • White는 AI 시스템이 표적을 식별하고 교전을 권고하는 미래의 연합 작전을 상정함. 한 파트너는 권고에 따라 행동하려 하고, 다른 파트너는 먼저 인간이 근거 정보를 검증하기를 원하며, 세 번째 파트너는 AI가 결론에 이른 과정을 설명해야 한다고 요구하는 상황임.
  • 군대들이 통신·플랫폼·데이터를 호환되게 갖추거나 같은 AI 기반 시스템을 사용하더라도 상호운용성을 확보하지 못할 수 있음.
  • AI는 의사결정을 가속하도록 설계됐지만 법과 인간 판단에 대한 접근 방식이 서로 다르면 연합 작전이 느려지거나, 더 심각하게는 결정이 내려진 뒤에야 의견 충돌이 드러날 수 있음.

지속 학습 AI와 책임 소재

  • Ayeza Areej는 AI 자체가 계속 바뀌면 이 문제가 더 어려워진다고 경고함.
  • 대부분의 AI 시스템은 고정된 학습 데이터를 기반으로 작동하지만, 미래 시스템은 배치된 뒤에도 새 데이터를 반영해 계속 갱신하는 지속 학습(continual learning)을 사용할 수 있음.
  • 지속 학습은 변화하는 조건에 적응하도록 하지만, 위장·기만·전자전을 통해 적이 오도하는 데이터를 주입할 수 있는 상황에서는 AI의 행동을 예측하기 더 어렵게 만듦.
  • 군사 AI가 인간의 통제를 앞지르기 위해 의식을 갖출 필요는 없음. 조건 변화에 따른 행동을 인간이 자신 있게 예측할 수 없을 만큼 자율적이고 적응적이며 불투명해지는 것만으로 충분함.
  • Areej는 책임 소재 문제도 제기함. 전장에서 새 데이터에 적응한 무기가 민간 차량을 군사 표적으로 오인하는 상황을 고려할 수 있음.
  • 책임은 무기 사용을 승인한 지휘관, 무기를 활성화한 운용자, 설계한 개발자, 모델을 학습시킨 엔지니어, 인증한 기관 사이에서 특정하기 어려워질 수 있음. 즉각적인 결정을 기계가 내렸더라도 그 결과에 대한 법적·도덕적 책임을 질 수는 없음.