TL;DR

  • 군사 인공지능(AI)은 자율 로봇이 병사를 대체하는 방식보다 정보 분석부터 표적 추천과 자원 배분까지 의사결정 전반에 통합되는 방식으로 작전에 영향을 미치며, 국제인도법(IHL)의 기존 법적 가정에 압력을 가함.
  • 인공지능은 인간의 결정을 단순히 실행하는 데 그치지 않고 군사 지식과 결정을 생성하는 데 참여하며, 인간의 판단·책임·의도·합리성·효과적 통제라는 개념에 새로운 문제를 제기함.
  • 최근 분쟁에서는 의사결정 지원 시스템의 분석·표적화 속도 향상, 상업용 클라우드 인프라의 군사 작전 활용, 데이터 무결성과 알고리즘 신뢰성 문제가 작전 현실로 나타남.
  • 심포지엄은 인공지능의 새로운 특성과 기존 법적 문제의 진화를 구분하고, 표적화 법률을 넘어 거버넌스·국가 책임·사이버 작전·조달·군사 정책을 함께 살펴봄.
  • 아시아·태평양 지역의 관점을 반영해 기술 의존성·지역 데이터·디지털 포렌식·편향 문제를 검토하고, 기계가 매개하는 전쟁에서도 법체계가 인간의 판단과 책임을 규율할 수 있는지 질문함.

서론

  • 이 글은 싱가포르국립대학교 국제법센터가 주최한 워크숍에서 발표된 논문들을 소개하는 『Asia-Pacific Journal of International Law』 최신 호 연계 시리즈의 일부임.
  • 인공지능(AI)과 국제인도법(IHL)에 관한 논의는 오랫동안 중요하지만 이론적인 영역에 머물렀으며, 실전에 투입되지 않은 자율 무기와 기계가 인간의 몫이던 결정을 내리는 상황을 둘러싼 논쟁이 이어짐.
  • 그 미래가 도래했지만, 많은 이들이 예상한 방식과는 다름.

군사 의사결정에서의 인공지능

  • 군사 인공지능의 핵심 양상은 자율 로봇이 병사를 대체하는 것이 아니라, 군사 의사결정의 거의 모든 단계에 인공지능이 조용히 통합되는 것임.
  • 인공지능 시스템은 정보 분석을 보조하고 위성 이미지와 드론 영상을 처리하며, 인간 분석가가 포착하기 어려운 패턴을 식별하고 표적을 추천하며 군수 지원의 우선순위를 정하고 희소 자원을 배분함. 또한 몇 년 전만 해도 상상하기 어려웠던 방식으로 정보 환경을 형성하며, 단 하나의 결정이 내려지기 전부터 지휘관의 전장 이해에 점점 더 큰 영향을 미침.
  • 이는 또 하나의 기술 발전보다 더 중대한 변화임. 과거의 군사 혁신이 전쟁의 속도·사거리·파괴력을 높였다면, 인공지능은 군사 지식의 생산 자체에 점점 더 참여함. 인간의 결정을 단순히 실행하는 데 그치지 않고 결정의 생성에도 도움을 줌.
  • 이러한 변화는 인간의 판단·책임·의도·합리성·효과적 통제와 같이 국제인도법의 핵심인 오랜 법적 가정에 상당한 압력을 가하며, 각 개념에 미묘하고 예상하기 어려운 문제를 제기함.
  • 최근 분쟁은 이러한 질문을 더욱 선명하게 드러냄. 인공지능 기반 의사결정 지원 시스템은 정보 분석과 표적화 절차를 10년 전에는 상상할 수 없던 속도로 가속함.
  • 상업용 클라우드 인프라가 예상보다 큰 규모로 군사 작전을 뒷받침하면서 민간 인프라와 군사 인프라의 전통적 구분이 흐려짐. 데이터 무결성·알고리즘 신뢰성·모델 조작, 그리고 민간 기술 기업에 대한 국방 조직의 의존도 증가도 학술적 추측에서 작전 현실로 옮겨옴.
  • 이에 따라 법적 논쟁도 달라짐. 인공지능이 군사 작전에 영향을 미칠지 여부가 아니라 이미 영향을 미치고 있다는 점이 전제임.
  • 더 어려운 질문은 지속적으로 진화하고 불투명한 계산 과정에 의존하며, 인간 의사결정자를 공식적으로 대체하지 않은 채 결정에 점점 더 영향을 미치는 기술을 기존 법체계가 충분히 규율할 수 있는지 여부임.

워크숍에서 심포지엄으로

  • 이러한 배경에서 싱가포르국립대학교 국제법센터는 2026년 4월 지역 워크숍을 개최해 진행 중인 『West Point Manual on International Law Applicable to Artificial Intelligence in Warfare』(AI Manual)을 지원함.
  • 워크숍에서 발표된 논문 다수는 이후 『Asia-Pacific Journal of International Humanitarian Law』의 군사 인공지능 특별호에 실림.
  • 이번 『Articles of War』 심포지엄은 실무자를 위한 형식으로 논의를 이어감. 기고자들은 특별호에서 다룬 핵심 개념을 되짚되, 군 법률가·지휘관·정책 입안자·정부가 마주한 실질적인 법률 및 작전 문제에 더 초점을 둠.
  • 목표는 신기술을 설명하는 데 그치지 않고, 군사 역량이 알고리즘·데이터·머신러닝에 점점 더 의존하는 상황에서도 국제법이 어떻게 기능하는지 살펴보는 것임.

기존 법리가 어려움을 겪는 지점

  • 심포지엄 전반에 반복적으로 등장하는 주제는 인공지능의 진정한 새로움과 기존 법적 문제의 단순한 진화를 구분하는 일임.
  • 군 법률가들은 정밀 유도 무기·사이버 역량·우주 시스템·자율 방어 소프트웨어 등 기술 변화에 대응해 온 경험이 있음. 인공지능과 관련된 모든 문제가 전례 없는 것은 아님.
  • 자동화는 사이버 작전에서 오래전부터 사용됐으며, 점점 정교해지는 의사결정 지원 시스템도 수십 년간 군사 계획을 뒷받침함.
  • 그러나 인공지능에는 명확한 역사적 유사 사례가 없는 특성도 있음. 시스템이 결정론적이 아니라 확률적으로 작동할 수 있고, 개발자조차 결과를 쉽게 설명하지 못할 수 있음. 오염된 학습 데이터로 조작되거나 지속적인 업데이트를 통해 바뀔 수 있고, 명시적으로 프로그래밍되지 않은 전략을 발견할 수도 있음.
  • 이는 단순한 기술적 호기심의 대상이 아니라 기존 법리가 예상하지 못한 법적 질문을 발생시키는 특성임.
  • 인공지능이 야기하는 중대한 법적 문제 다수는 표적화 법률의 전통적 틀 밖에서 발생함. 국제인도법이 공격·비례성·예방 조치·구별에 집중하는 것은 타당하지만, 인공지능 시스템은 무기가 사용되기 훨씬 전부터 취약할 수 있음.
  • 데이터 오염·모델 손상·적대적 조작·알고리즘 간섭은 무력 충돌의 문턱 아래에서 개발·조달·평시 경쟁 과정에 발생하는 경우가 많음. 따라서 군사 인공지능을 이해하려면 국제인도법뿐 아니라 거버넌스·국가 책임·사이버 작전·조달·군사 정책에 관한 폭넓은 질문도 다뤄야 함.
  • 거의 모든 기고를 연결하는 주제는 책임성임. 군사 인공지능은 지휘관·운용자·소프트웨어 엔지니어·상업 제공자·적응형 시스템의 복잡한 상호작용 속에서 책임이 사라질 수 있다는 우려를 낳음.
  • 기고자들은 인공지능이 책임 규명을 불가능하게 만드는지 묻는 대신, 점점 더 통합되는 인간·기계 시스템 안에서도 기존 법 원칙으로 책임을 귀속할 수 있는지 여러 방향에서 검토함.

지역적 관점

  • 심포지엄의 또 다른 강점은 지역적 관점임. 군사 인공지능에 관한 세계적 논의의 상당 부분은 주요 기술 강국의 우선순위에 따라 형성됨.
  • 아시아·태평양 지역은 다른 전략적 현실·제도적 역량·작전상 과제를 지님. 지역 데이터셋의 존재 또는 부재, 기술 의존성, 디지털 포렌식, 지속적으로 제기되는 편향 문제는 그 자체로 주목할 만한 법적 질문을 낳음.
  • 이러한 관점은 기존 논의를 다양화하는 데 그치지 않고, 군사 인공지능 논의에서 서구와 중국의 접근법이 지배할 때 충분한 검토 없이 받아들여진 가정을 드러내고 해체함.

핵심 과제

  • 기고자 누구도 확정적인 답을 제시한다고 주장하지 않음. 군사 인공지능처럼 빠르게 진화하는 분야에서는 불가능한 목표임.
  • 기고자들은 기존 국제법이 어떤 지점에서 회복력을 유지하고 어디에서 압박을 받기 시작했는지, 또 어느 지점에서 새로운 법적 사고가 필요한지 신중하게 분석함.
  • 이 글들은 군사 인공지능이 제기하는 핵심 과제가 단순히 기술적인 문제가 아니라는 점을 함께 보여줌. 인간 의사결정자를 전제로 설계된 법체계가 인간의 판단을 기계가 점점 더 많이 매개하는 상황에서도 전쟁을 계속 규율할 수 있는지가 핵심 질문임.
  • 이 질문에는 법률가만으로 답할 수 없음. 군 실무자·기술 전문가·정책 입안자·산업계·학계의 지속적인 협력이 필요함.
  • 심포지엄의 성과는 논의를 끝내는 데 있지 않으며, 무력 충돌의 미래를 이미 바꾸고 있는 작전 현실과 맞닿은 곳에서 논의가 이어지도록 하는 데 있음.