SIXCYBER 창립자 Bill Swearingen은 차량을 촬영하는 카메라의 객체 인식 소프트웨어가 차량을 감지하지 못하도록 하는 패턴 생성 시스템 noRecognition을 개발했다. 9월 초 라스베이거스에서 열린 DEF CON에서 패턴을 입힌 2009년형 Toyota Yaris를 Flock 카메라 앞에 운전해 공개 시연했다. 카메라는 차량 영상을 녹화했지만 감지 소프트웨어는 차량 정보를 기록하지 않았다.

noRecognition은 강화학습 모델로, 감시 카메라의 탐지 소프트웨어를 상대로 생성 패턴을 시험하고 감지되면 패턴을 조정한다. Swearingen은 1년간 3,100만 회 시험했다고 밝혔다. 이 시스템은 Flock 번호판 인식 카메라와 Axon 웨어러블 카메라, Clearview AI의 얼굴 인식 시스템에 쓰이는 소프트웨어를 포함해 오픈소스 탐지 알고리즘 11종을 대상으로 시험했다. Swearingen은 해당 시스템이 모두에서 작동했다고 주장했으며, 시연에서는 차량 바퀴가 과제로 남았다고 말했다.

이 패턴은 카메라의 영상 촬영을 막지 않는다. 사람은 영상에서 차량을 볼 수 있지만, 소프트웨어가 차량을 식별하거나 번호판 정보를 기록하고 경보를 내는 과정에 실패하도록 설계됐다. Swearingen은 새 패턴을 계속 생성하고 가장 강력한 패턴은 카메라 제조사가 학습에 활용하지 못하도록 온라인에 공개하지 않고 있다고 밝혔다.

Flock은 미국 경찰 기관에 자동 번호판 인식 카메라를 판매한다. 경찰은 지나가는 차량을 촬영하고 번호판을 법 집행 데이터베이스와 실시간으로 대조한다. 원문은 오인식으로 무고한 운전자가 총을 겨눈 경찰의 단속을 받은 사례와, Flock이 Uber·Lyft 차량 35만 대의 대시캠을 활용해 전국의 차량을 감시하는 방안을 제안한 사실도 언급한다.

Swearingen은 시위에 참석하려다 추적될 수 있다는 불편함을 느껴 프로젝트를 시작했다고 TechCrunch에 말했다. 번호판을 가리는 행위는 불법이므로 noRecognition 패턴은 번호판이 아니라 차량 차체에 적용된다. 차체에 카메라 소프트웨어를 속이도록 설계한 무늬를 인쇄하는 행위 자체가 위법인지 여부는 아직 분명하지 않다.

원문 보도