TL;DR

  • 기계 학습으로 생성한 패턴이 차량을 촬영하는 감시 카메라의 영상 기록은 막지 않으면서 객체 식별·번호판 기록·경보 작동을 회피하는 방식임.
  • SIXCYBER의 Bill Swearingen이 31 million회 테스트를 거쳐 감시 카메라 탐지 알고리즘을 속이는 강화 학습 모델 noRecognition을 개발함.
  • 2009년형 Toyota Yaris에 패턴을 적용해 실시간 Flock 카메라 앞을 주행한 공개 시연에서 차량 영상은 기록됐지만 탐지 소프트웨어에는 아무것도 기록되지 않음.
  • noRecognition은 Flock, Axon 보디 카메라, Clearview AI 얼굴 인식 시스템에 사용되는 소프트웨어를 포함한 11개 오픈 소스 탐지 알고리즘에서 테스트됨.
  • Flock의 미국 전역 번호판 감시망 확대와 오탐 논란 속에서 차량 차체에 패턴을 입혀 추적을 거부하는 방식이 제시됐지만, 번호판을 가리는 행위는 여전히 불법이며 차체 패턴의 법적 지위는 불확실함.

공개 시연에서 확인된 탐지 회피

  • 사이버 보안 전문가이자 SIXCYBER 설립자인 Bill Swearingen이 컴퓨터로 생성한 패턴을 이용해 감시 카메라의 차량 탐지를 회피하는 방법을 시연함.
  • Swearingen은 지난 1년 동안 31 million회 테스트를 진행하며 감시 카메라에 탑재된 객체 탐지 알고리즘을 무력화할 수 있는 패턴을 개발함.
  • 그가 noRecognition이라고 부르는 시스템은 감시 카메라의 객체 탐지 알고리즘을 회피하는 패턴을 생성하는 강화 학습 모델(reinforcement learning model)임.
  • 패턴은 카메라가 영상을 실제로 촬영하는 것을 막지 않으므로, 영상을 보는 사람에게는 차량이 그대로 보임.
  • 실패하는 부분은 소프트웨어의 객체 식별, 차량 번호판 기록, 경보 작동임.
  • Swearingen은 이달 초 미국 라스베이거스에서 열린 DEF CON 보안 콘퍼런스에서 해당 기법을 처음으로 공개 시연함.
  • 2009년형 Toyota Yaris에 최신 패턴 중 하나를 덮고 실시간 Flock 카메라 앞을 주행했으며, 카메라는 차량을 정확히 촬영했지만 탐지 소프트웨어에는 아무것도 기록되지 않음.

“효과가 있다는 걸 입증했습니다.”

  • 다만 차량의 바퀴가 과제로 남았다고 설명함.

31 million회 시도에서 도출된 패턴

  • 생성된 패턴을 카메라 탐지 소프트웨어에 대입하는 시스템을 구축함.
  • 패턴이 탐지되면 시스템이 패턴을 조정한 뒤 다시 시도하는 과정을 반복함.
  • 31 million회 시도 끝에 탐지를 회피하는 패턴을 찾아냄.
  • 현재까지 11개 오픈 소스 탐지 알고리즘을 대상으로 시스템을 테스트함.
  • 테스트 대상에는 다음 소프트웨어가 포함됨.
  • Flock 번호판 인식 카메라의 기반 소프트웨어
  • Axon 보디 카메라 소프트웨어
  • Clearview AI 얼굴 인식 시스템을 실행하는 카메라 소프트웨어
  • Swearingen에 따르면 noRecognition이 이들 알고리즘을 모두 능가함.
  • 탐지를 회피하는 새로운 패턴을 매분 계속 생성하고 있으며, 카메라 제조업체가 해당 패턴을 학습 데이터로 활용하지 못하도록 가장 강력한 패턴은 의도적으로 온라인에 공개하지 않음.

Flock 감시망과 개인정보 보호 논란

  • Flock은 미국 전역의 경찰 기관에 자동 번호판 인식 카메라를 판매함.
  • 경찰 기관은 카메라로 지나가는 차량을 촬영하고, 번호판을 법 집행 데이터베이스와 실시간으로 대조함.
  • Flock 네트워크는 빠르게 확대됐으며, 올해 초 Flock이 전국 차량을 스캔하기 위해 Uber와 Lyft 대시캠 350,000대를 동원하는 방안을 제안했다는 사실이 알려짐.
  • Flock의 행보는 개인정보 보호 운동가들의 반발을 일으킴.
  • Flock 카메라의 부정확성도 문제로 제기됨.
  • 잘못된 번호판 일치 결과로 무고한 운전자가 총을 겨눈 경찰에게 정차를 요구받는 사례가 발생함.
  • Swearingen은 시위에 참석하고 싶었지만 추적당하는 상황이 불편해 프로젝트를 시작함.

“개인정보 보호는 기본권입니다.”

  • 패턴이 사람들이 추적을 거부할 수 있는 방법이라고 설명함.

“추적당하지 않기를 선택할 수 있는 방법입니다.”

번호판을 가리지 않는 차량 패턴

  • 번호판을 가리는 행위는 불법임.
  • noRecognition 패턴은 차량 차체를 덮지만 번호판 자체는 가리지 않음.
  • 감시 카메라 소프트웨어를 속이도록 설계된 인쇄 패턴으로 차량 차체를 덮는 행위 자체가 범죄가 될지는 아직 판단되지 않은 사안임.