TL;DR

  • 자율주행 데이터 엔지니어링에서 데이터 규모는 성숙한 도구로 다룰 수 있지만, 시간 동기화·희귀 데이터 탐색·재현성은 비용을 더 들이는 것만으로 해결되지 않는 핵심 과제임.
  • Motional이 2019년 공개한 nuScenes 데이터셋 기준으로 차량 한 대의 카메라 6대는 압축 전 초당 약 311MB, 시간당 약 1.1TB의 데이터를 생성함.
  • 센서마다 시계와 데이터 생성 주기가 달라 10ms의 시간 차이도 시속 100km 주행 중 물체 위치에 약 28cm의 차이를 만듦.
  • 사고와 사망 같은 주행 incident는 매우 드물어, 자율주행차의 안전성을 통계적으로 증명하려면 수십 년에서 수백 년의 주행이 필요할 수 있음.
  • 자율주행 데이터 엔지니어링의 핵심은 데이터 양의 관리보다 데이터의 의미와 버전 보존에 가까움.

데이터의 크기는 이미 답이 있는 문제임

  • 자율주행 데이터를 직접 다루기 전에는 차량 한 대가 하루에 생성하는 수 테라바이트의 데이터 양이 압도적으로 느껴지기 쉬움. 대량의 차량 데이터를 수집하다 보면 데이터를 효율적으로 저장하고 불러오는 문제에만 집중하기 쉬움.
  • 실제 데이터 규모는 큼. Motional이 2019년 공개한 nuScenes 데이터셋은 차량당 1600×900 해상도, 12Hz 카메라 6대를 사용함.
  • 압축하지 않은 이미지 한 장은 약 1600 × 900 × 3바이트 = 4.3MB임. 카메라 6대의 데이터량은 초당 약 311MB, 시간당 약 1.1TB이며, 이는 라이다와 레이더를 제외한 카메라 데이터만의 수치임.
  • 데이터 규모는 이미 해법이 알려진, 오히려 다루기 쉬운 문제임. 오브젝트 스토리지, 압축, 분산 처리 도구가 성숙하고 사용하기 쉬움.
  • 따라서 규모의 문제는 ‘어떻게 처리할 것인가’보다 ‘얼마나 비용을 쓸 것인가’에 가까움. 반면 아래 세 가지 문제는 비용을 더 들인다고 자동으로 해결되지 않음.

문제 1: 시간

  • 일반적인 데이터 엔지니어링에서는 서로 다른 데이터를 연결할 때 식별 키를 사용함. 웹 서비스에서는 user_id, 로그 분석에서는 request_id나 trace_id가 그 예임.
  • 자율주행 데이터에서 가장 중요한 연결 기준은 시간임. 같은 순간에 카메라, 라이다, 레이더가 본 정보를 하나의 사건으로 연결해야 함.
  • 웹 서비스에서는 사용자 이벤트 사이에 몇 초가 지나도 서로 다른 사용자가 되지 않지만, 자율주행에서는 몇 밀리초의 차이만으로도 두 센서가 서로 다른 세계를 보고 있을 수 있음.
  • 센서마다 같은 시계를 사용하지 않고 데이터를 같은 주기로 생성하지도 않음. 센서가 늘수록 시계도 늘어남.
  • 시속 100km로 달리는 자동차는 초당 약 28m를 이동하므로, 10ms의 시간 차이만으로도 물체의 위치가 약 28cm 달라짐.
  • 따라서 일반적인 데이터베이스 방식처럼 가장 가까운 타임스탬프(timestamp)를 기준으로 조인하는 접근은 통하지 않음.

문제 2: 희귀성

  • 대부분의 주행 데이터는 단조로우며, 실제로 필요한 것은 갑작스러운 끼어들기, 공사 구간, 무단횡단, 도로 위의 낯선 물체 같은 드문 사건임.
  • 충돌과 사망은 주행 거리 대비 매우 드물기 때문에 자율주행차의 안전성을 통계적으로 증명하려면 수십 년에서 수백 년 동안 주행해야 한다는 연구가 있음.
  • 데이터를 더 많이 모으는 것만으로는 충분하지 않으며, 희귀한 데이터를 잘 찾아내는 일이 더 중요함. 여기서 경쟁력이 나옴.

문제 3: 재현성

  • 일반적으로 로그는 한 번 집계되면 역할이 끝나는 경우가 많지만, 주행 로그는 특성상 반복해서 사용됨.
  • 원본 데이터 위에 새로운 메타데이터가 계속 추가되므로, 언제든 “이 모델은 어떤 데이터와 어떤 라벨 버전으로 학습했는가?”에 명확히 답할 수 있어야 함.
  • 자율주행에서는 데이터 자체의 관리뿐 아니라 데이터 버전 관리도 중요함.

데이터의 의미를 보존하는 일

  • 자율주행 데이터 엔지니어링의 핵심은 데이터의 양을 관리하는 일보다 데이터가 의미하는 바를 보존하는 일에 가까움.
  • 다음 글에서는 회사 내부 정보를 공개하지 않는 범위에서 이러한 문제를 다루기 위해 어떤 작업이 이루어졌고 어떤 작업이 필요한지 생각을 정리할 예정임.