사이버 보안 연구자와 사기 방지 단체들이 잠재적 피해자를 가장하는 AI 챗봇으로 사기범의 시간을 소모시키고 범행 수법을 수집하고 있다고 보도됐다. 여러 대화를 동시에 이어가 범죄자의 접근 방식과 운영 패턴을 기록하는 방식이다.

이 챗봇은 로맨스 사기, 기술 지원 사기, 투자 사기 징후를 감지해 대화에 응하고 보안팀에 알리도록 설계됐다고 한다. 보안 업체들은 초기 결과가 유망하다고 전했지만, 구체적인 업체명이나 성과 수치는 제시되지 않았다. 수집된 대화 기록은 수사기관이 범죄 조직과 수법을 추적하는 데 활용할 수 있다고 보도는 설명한다.

이 방식은 사기범을 속이는 과정에서 윤리와 오용 가능성도 제기한다. 보도는 다른 온라인 조작 행위에 이 기술을 적용하려는 움직임도 있다고 전하지만, 실제 적용 사례나 효과를 뒷받침하는 구체적인 근거는 밝히지 않았다.

관련 배경으로 애플의 보안 조치와 AI 에이전트 보안 위험에 대응해 맥 디스크 접근을 제한한 조치, 보안 사고 이후 OpenAI가 AI 에이전트를 검토한 내용이 언급됐다.