WIRED의 커널 패닉 팀은 Apate의 시연판에서 사기꾼 역할을 맡아 암호화폐 투자를 권했지만, 6분 동안 대화해도 AI는 투자하지 않았다. 대화는 자연스럽게 이어졌고, 봇은 의심을 드러내면서도 상대가 계속 설득하도록 여지를 남겼다.

호주 기업 Apate는 사기 전화를 AI 봇에게 연결해 사기꾼의 시간을 쓰게 하고, 사기 수법과 관련 정보를 수집하는 시스템을 만들고 있다. 은행과 통신사가 활용하거나 지원하는 이 시스템은 사기 전화를 받는 사람을 보호하려는 조직과 사기 대응에 쓸 정보를 모으려는 기관에 관련된 소식이다.

Apate의 봇은 무엇을 하나

사기꾼을 오래 붙잡는 봇은 미끼를 놓아 공격자를 끌어들이는 허니팟(honeypot)을 떠올리면 쉽다. Apate의 시스템은 전화뿐 아니라 사기 대화방과 문자 메시지에도 대응한다. 봇마다 성격과 언어 능력, 프로필을 다르게 설정해 실제 사람처럼 보이게 한다.

Apate 창업자 겸 최고경영자 달리 카파르(Dali Kaafar)는 봇이 약 35만 개이며 사기 URL, 돈세탁에 이용되는 계좌, 은행 정보 등 사기범 관련 정보 25만 건 이상을 실시간으로 모았다고 말했다. 카파르에 따르면 사기범과 봇의 통화는 두 시간을 넘기기도 한다. 봇은 사기범을 실제로 믿거나 사기에 넘어가는 대신 대화를 이어가도록 설계됐다.

카파르는 사기범이 자동 발신 도구를 쓰는 만큼, 사기범 한 명이 봇과 통화하는 시간 동안 다른 사람에게 연락하지 못할 수 있다고 설명한다. 이는 회사가 내세우는 기대 효과다. 사기범을 지연시키는 것만으로 사기 확산을 막을 수 있는지는 별개의 문제다.

다른 사기 대응에도 AI를 쓰나

사이버 보안 기업과 연구자들은 오랫동안 공격자를 유인해 시간을 낭비하게 하고 정보를 얻는 가상 허니팟을 운영해 왔다. ETH 취리히 컴퓨터과학부 박사과정 연구자 마크 베로(Mark Vero)와 동료들의 연구에서는 대규모 언어 모델(LLM)을 적용한 허니팟이 행동을 예측하기 쉬운 허니팟보다 AI 에이전트의 공격을 훨씬 오래 끌었다. 베로는 AI가 만든 허니팟을 공격 에이전트가 더 실제 시스템으로 여기고, 허니팟이라고 판별하는 비율도 더 낮았다고 말했다.

AI를 활용해 사기 대응 정보를 법 집행기관, 소셜미디어 기업, 은행과 다른 업계 사이에서 공유하고 분석할 가능성도 제기된다. 사기범의 심리적 약점을 이용해 공격을 방해하는 심리 작전도 연구되고 있다. 미국 정보고등연구기획국(IARPA)의 RESCIND 연구 프로그램과 랜섬웨어 공격자를 직접 조롱하는 사례가 관련 맥락으로 소개됐다.

다만 사기 전화와 문자는 매년 수십억 건에 이르며, 산업 규모로 운영되는 사기 시설도 있다. 사기범을 붙잡아 정보를 모으는 활동이 이어져도 온라인 사기 전체의 확대를 멈추지는 못했다. Apate의 봇이 늘어도 다음 사기 전화나 문자를 완전히 피할 수 있다는 뜻은 아니다.

Apate 시연판에서 WIRED 팀은 친구 ‘루시’와 재정 상담사 ‘미키’ 역할을 번갈아 맡아 봇을 설득했다. 대화의 반응과 속도는 자연스러웠지만, 이는 시연판을 이용한 한 차례 경험이며 실제 사기 대응 성과를 독립적으로 입증한 시험은 아니다. Apate의 성능 측정 조건과 봇이 모은 정보가 실제 수사나 사기 예방에 얼마나 쓰였는지는 원문에 나오지 않는다.