라멘(Ramen Inc.)의 창립 엔지니어 마두르 라지(Madhur Raj)는 산업용 비전 시스템에서 물체를 탐지하는 것보다 그 결과를 기업이 믿고 업무에 쓸 수 있도록 만드는 일이 더 어렵다고 말한다. 그는 오답보다 ‘모름’을 택하고, 판독과 기록을 분리하는 등 현장에서 겪은 실패를 바탕으로 한 원칙을 제시했다.
라지는 라벨을 읽지 못하면 사람이 확인하면 되지만, 틀린 값을 확신에 차서 기록하면 주변의 올바른 데이터까지 신뢰를 잃을 수 있다고 설명한다. 그래서 시스템에서 ‘알 수 없음’을 정식 결과로 취급하고, 추측을 게시하는 대신 판독을 보류한다고 밝혔다.
물체를 발견하고, 내용을 읽고, 그 판독을 사실로 기록할지는 서로 다른 책임이다. 카메라는 주목할 픽셀을 고르고, 더 높은 해상도와 연산 자원을 쓰는 단계가 세부 내용을 읽는다. 그 결과를 기록할지 결정하는 일은 별도의 규칙에 따라 처리한다.
판독은 자체 오류 검출·정정 기능이 있는 기계 판독 코드부터 시작하고, 다음으로 인쇄된 문자를 확인한다. 복잡한 시각 언어 모델은 더 확실한 방법이 실패한 뒤에만 사용한다. 생성형 모델은 답을 제안할 수 있지만, 결정적 증거가 판정을 내리며 모델의 출력은 독립적인 교차 확인을 거쳐야 기록된다. 형식이 그럴듯하다는 이유만으로 결과를 신뢰해서는 안 된다는 설명이다.
각 값에는 그 근거가 무엇인지 표시하고, 같은 물리적 물품은 한 번의 방문에서 하나의 기록만 남기도록 저장 단계에서 중복을 막는다. 판독이 늦게 끝나더라도 현재 상황이 아니라 이미지가 촬영된 시점의 방문과 작업 맥락에 연결해야 한다. 현장 장비에 대해서도 설정한 값, 장비가 보고하는 값, 독립적으로 확인한 실제 동작을 구분한다.
라지는 시스템 각 단계에 처리 용량을 정하고 초과 작업은 지속적으로 확인할 수 있는 큐에 넣어야 한다고 주장한다. 또한 관찰하는 구성 요소는 읽기 전용으로 두고, 행동을 수행하는 구성 요소는 권한을 제한하고 끌 수 있게 하는 등 안전을 시스템 구조에 반영해야 한다고 강조한다. 이런 원칙은 모델 자체를 더 똑똑하게 만드는 방법이 아니라, 모델의 출력을 오해하지 않고 업무에 활용하기 위한 기반이라는 것이 그의 설명이다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요