생성형 AI로 글을 썼다는 의혹이 문학상과 출판계로 번지면서 AI 탐지 도구의 판단이 작가의 수상과 계약에 영향을 주고 있다. 하지만 탐지 결과의 오류 가능성과 의혹이 누구에게 집중되는지를 둘러싼 논란도 커지고 있다.

짐바브웨 작가 심바라셰 쿤디제자(Simbarashe Kundizeza)는 10월 6일 단편 「The Blue Fighter」로 케인상을 받았다. 일주일도 지나지 않아 더 애틀랜틱은 이 작품의 화자가 “챗봇만큼의 개성도 없다”고 평했고, AI 탐지 도구 Pangram이 작품 대부분을 AI 생성물로 표시했다고 보도했다. 쿤디제자는 X에 자신이 생성형 AI를 쓰지 않았으며 작품은 전적으로 자신의 창작물이라고 밝혔다.

의혹은 다른 작가들에게도 이어졌다. 출판사 Hachette는 뉴욕타임스 보도 뒤 미아 밸러드(Mia Ballard)의 소설 「Shy Girl」 미국 출간을 취소했다. 커먼웰스 단편상 수상작 「The Serpent in the Grove」의 작가 자미르 나지르(Jamir Nazir)는 AI 사용 의혹을 받았다. 스토니브룩대학교 연구자들은 H. M. 울프(H. M. Wolfe)의 베스트셀러 「Daggermouth」가 60% AI로 작성됐다는 분석을 내놓았다. 제리 팔라데(Jerry Falade)는 AI 사용 의혹으로 에이전트가 데뷔작을 철회한 뒤 200만 달러 규모의 계약을 잃었고, 아이티계 캐나다 작가 텔리송 오렐리앵(Thélyson Orélien)은 탐지 검사 결과를 둘러싼 주장 뒤 공쿠르상 후보 명단에서 제외됐다.

이런 논란에서 AI 문체의 단서로 긴 대시, “X가 아니라 Y” 같은 표현, 과장된 묘사나 세 항목 나열이 거론된다. 그러나 이런 표현은 AI 학습에 사용된 인간의 글에서도 흔히 쓰였다. 작가 패트릭 네이선(Patrick Nathan)은 AI가 나쁜 글을 학습하기 때문에 AI의 글과 인간이 쓴 나쁜 글을 구별하기 어렵다고 지적했다.

Pangram 창업자 겸 최고경영자 맥스 스페로(Max Spero)는 이 도구가 AI 보조 여부를 표시할 때 매우 높은 확신을 요구한다고 말한다. 회사는 사람이 쓴 글을 AI 생성물로 잘못 판단하는 비율이 1만 건 중 1건이며 계속 낮아지고 있다고 주장한다. 시카고대학교와 브뤼셀대학교의 동료 심사 연구는 이 주장과 부합하지만, 메릴랜드대학교의 2025년 연구에서는 Pangram이 문서의 2%를 AI가 쓴 것으로 잘못 분류했다. 2023년 스탠퍼드대학교 연구는 비영어권 화자의 글에서 AI 탐지기의 오탐률이 높다고 보고했지만, Pangram이 만들어지기 전 연구다. Pangram은 비영어권 영어 문서 데이터베이스를 활용한 자체 연구에서 오탐률이 1만 건 중 약 8건이라고 밝혔다.

의혹이 비백인 작가에게 불균형하게 향한다는 지적도 나왔다. 오렐리앵에 대한 익명 의혹은 프랑스 보수 신문 르 피가로의 칼럼니스트 사뮈엘 피투시(Samuel Fitoussi)가 제기한 것으로 드러났다. 이 사례를 포함해 주요 논란의 당사자 다수는 비백인 작가였다. 케임브리지대학교 탈식민주의 연구 교수 도일 D. 칼훈(Doyle D. Calhoun)은 문학계의 인구 구성이 바뀌며 비백인 작가의 계약과 수상이 늘어난 상황에서 반워크·반흑인 정서가 온라인 의혹에 영향을 미칠 수 있다고 말했다. 그는 검증되지 않았거나 근거가 부족한 주장이 퍼진 뒤에는 온라인 매체 생태계가 이를 증폭하고, 비백인 작가에게 제기된 의혹은 백인 작가의 경우처럼 쉽게 사라지지 않는다고 덧붙였다.

AI 사용 의혹은 표절과 달리 비교할 원문이 없어 입증하기 어렵다. 작가가 사용을 인정하지 않는 한, 챗봇에 입력한 기록을 찾을 정도로 컴퓨터 사용 내역을 확인하지 않고서는 의혹을 확실히 입증할 방법이 없다는 지적이 나온다. 케인상 심사위원단은 쿤디제자의 작품 작성 과정을 인간 중심으로 검토하겠다고 밝혔다. 심사위원단 이사회 의장 엘라 와카타마(Ellah Wakatama)는 작가가 초안 기록을 제출할 예정이라고 BBC에 말했다. 다만 무죄를 입증하기 위해 초안과 작업 기록을 공개해야 하는지, 어느 정도의 증거가 충분한지를 두고 합의는 없다.

커먼웰스 재단은 나지르와 다른 후보들의 작품을 검토했지만 Pangram이나 다른 AI 탐지 소프트웨어는 사용하지 않았다. 라즈미 파룩(Razmi Farook) 재단 사무총장은 탐지 도구만으로 결론을 내리지 않고 심사 과정과 초안·메모 등 창작 과정 자료, 작가들과의 면담을 함께 살폈다고 밝혔다. 재단은 나지르를 포함한 후보들이 작품을 쓸 때 AI를 사용하지 않았다고 결론 내렸다. 그러나 해당 작품을 실었던 문학 잡지 그란타는 향후 대회와의 협력을 중단했다. 그란타 발행인 시그리드 라우징(Sigrid Rausing)은 작품을 Claude에 입력했을 때 AI의 도움 없이 작성됐을 가능성이 거의 없다는 답변을 받았다고 밝혔다. 하지만 Claude는 AI 생성 글을 탐지하도록 설계된 도구가 아니다.

자동 탐지 도구가 작가를 돕기보다 스스로 글을 판단하는 능력을 약화할 수 있다는 우려도 있다. 작가 존 워너(John Warner)는 자동화 기술이 이런 판단을 사람에게서 빼앗을 수 있다고 말했다. 탐지 결과가 작가의 평판과 기회에 영향을 미치는 만큼, 커먼웰스 재단은 내년 시상 절차를 보완하는 방법에 대해 Pangram의 의견을 요청했다.