팡그램 공동창업자 겸 CEO 맥스 스페로(Max Spero)는 AI가 쓴 글이 사람 글과 구별되지 않는다는 통념은 틀렸다고 말한다. 그는 AI 글 탐지기가 통계적 판단에 기반하므로 오탐을 완전히 없앨 수는 없으며, 결과를 확정적 증거가 아닌 판단 자료로 다뤄야 한다고 설명했다.
스페로에 따르면 Pangram은 사람 글과 같은 주제로 AI가 쓴 글을 짝지어 학습시키고, 모델이 확신하지 못하거나 틀린 사례를 다시 학습에 반영한다. 그는 이 방식으로 기본 모델의 정확도가 보통 약 99%에 이르며 오탐률은 1만 건 중 1건이라고 주장했다. 다만 글이 50~100단어로 짧을 때는 데이터가 적어 분류가 덜 확실할 수 있다고 덧붙였다. 이 수치는 Pangram 측 설명이며, 탐지 결과만으로 AI 작성 여부를 단정해서는 안 된다는 취지다.
스페로는 AI로 글을 대량 생산하면 생각의 질보다 콘텐츠 양을 우선하는 유인이 생길 수 있다고 우려했다. 그가 소개한 Pangram의 연구에서는 링크드인 장문 콘텐츠의 40%가 AI 생성물로 나타났다. 그는 온라인에서 AI 글에 공개적으로 문제를 제기하는 행위를 두고, AI 콘텐츠를 어떻게 다룰지 사회적 규범을 만들어가는 과정이라고 봤다. 다만 탐지 결과를 근거로 지목하기에 앞서 대화를 나누고, 탐지기의 오차 가능성을 투명하게 고려해야 한다고 강조했다.
AI 탐지는 통계적 방법이며, 스페로는 이를 DNA 검사와 비교하면서도 범죄 유죄 판결에는 다른 뒷받침 증거가 필요하다고 설명했다. 또 사람 글을 AI 생성으로 잘못 판단하는 문제는 완전히 피할 수 없고, AI 모델이 바뀌거나 사람을 흉내 내는 도구가 등장하면 탐지기도 계속 대응해야 한다고 말했다. 그는 AI를 조사와 코딩에는 매일 쓰지만, 자신의 글을 대신 쓰게 하지는 않는다고 밝혔다.
관련 자료: 워싱턴포스트의 AI 탐지 오탐 사례 보도, 크리스 베스트의 발언
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요