TL;DR

  • Anthropic의 인간 검토팀이 위협성 Claude 대화를 경찰에 신고한 뒤 플로리다주 리 카운티 여성이 중범죄 혐의로 체포됨.
  • 체포 보고서에는 9월 26일 사용자가 리 카운티 보안관실을 총격하겠다고 한 발언과 다음 날 새 총기를 언급한 메시지가 담김.
  • 해당 대화는 8월 이후 Anthropic이 경찰에 신고한 세 번째 유사 사례이며, 신고 판단은 위협의 심각도에 따라 이뤄짐.
  • Anthropic의 개인정보 보호정책은 심각한 피해 방지를 위한 정보 공개 가능성을 규정하지만, 2025년 하반기 정부 요청 보고서에는 법 집행기관의 긴급 요청이 0건으로 집계됨.
  • Anthropic과 OpenAI를 둘러싼 유사 사건은 AI 기업이 이용자 개인정보 보호와 위협 신고 책임을 함께 요구받는 상황을 보여줌.

체포로 이어진 Claude 대화

  • WINK News에 따르면 플로리다주 리 카운티의 한 여성이 Anthropic의 Claude 인공지능(AI) 챗봇 대화와 관련된 위협으로 중범죄 혐의로 체포됨. 해당 대화는 본인이 ‘일기’라고 부른 대화이며 Anthropic 인간 검토팀을 거쳐 법 집행기관에 신고됨.
  • 체포 보고서에는 ‘Carli’라는 사용자가 9월 26일 리 카운티 보안관실(LCSO)을 “총격하겠다”고 말한 내용과, 다음 날 새 총기를 언급한 것으로 알려진 메시지가 포함됨.
  • 체포 보고서가 아직 법원 기록에 등록되지는 않았지만, 확인된 법원 기록에는 9월 30일 플로리다주 법률 836.10조에 따른 중범죄 혐의가 기재됨. 이 조항은 대량 총격 또는 테러 행위에 대한 서면·전자 위협을 다룸.
  • Anthropic은 주요 문구와 위협으로 간주될 수 있는 내용을 포함한 채팅을 감시하며, 위협의 심각도에 따라 인간 검토로 넘길 수 있다고 체포 보고서에 명시됨. 이 사례에서는 검토팀이 조사 결과를 법 집행기관에 신고하기로 결정함.
  • 보니타 스프링스에 거주하는 여성은 자택에서 별다른 저항 없이 구금됐으며, 이후 LCSO 정보 담당 형사에게 사건이 인계됨.

혐의 내용과 신고 기준

  • 등록된 혐의는 “위협-테러 관련 주 범죄-대량 총격/테러 행위에 대한 서면·전자 위협”으로, 법률 836.10조 중 대량 총격·테러 위협 부분에 해당함.
  • 챗봇 대화는 다른 사람이 볼 수 있는 방식으로 “어떤 형태로든 전송·게시·전달”된 위협에 해당할 가능성이 있음. 인간 검토팀이 확인한 메시지와 다음 날 총기를 언급한 내용이 체포 및 기소를 뒷받침하는 증거일 가능성이 큼.
  • 법원 기록에는 변호인이 기재되지 않았으며, 혐의가 적용될 당시 국선 변호인이 지정됨.
  • 현재까지 Anthropic의 사건 관련 공식 논평은 확인되지 않음.
  • 9월 10일 발효된 Anthropic의 공개 개인정보 보호정책은 “정보 공개가 사람이나 재산에 대한 심각한 피해를 방지하는 데 합리적으로 필요하다”는 선의의 판단이 있을 경우 법 집행기관에 정보를 공개할 수 있다고 규정함.
  • 2025년 하반기 정부 요청 보고서는 긴급 공개 기준을 “사람의 사망 또는 심각한 신체적 상해 위험”으로 더 좁게 제시하며, 해당 기간 법 집행기관의 긴급 요청은 0건으로 집계함. 다만 Anthropic이 자체적으로 신고한 사례는 집계에 포함하지 않음.

Anthropic과 OpenAI의 유사 사례

  • 이번 사건은 Anthropic과 경쟁사 OpenAI의 챗봇 사용과 관련된 최근 사건들에 이어 발생함.
  • 샌안토니오 사건에서는 8월 11일 “Anthropic AI 채팅”에서 인근 초등학교 총격에 관한 질문이 오갔으며, 연방수사국(FBI)의 통보를 받은 경찰이 22세 남성을 테러 위협 중범죄 혐의로 체포함.
  • 며칠 뒤 샌프란시스코에서는 한 사용자가 8월 14일 Claude 대화에서 Anthropic 최고경영자(CEO) Dario Amodei를 위협하며 AR-15 소총을 구매했다고 말함. Anthropic은 경찰에 신고했지만, 해당 사용자는 결국 체포되거나 기소되지 않음.
  • 두 사건은 지역 언론 보도에 자세히 소개됨.
  • Palm Beach Post에 따르면 OpenAI는 3월 ChatGPT 대화에서 전 여자친구를 살해하는 내용을 말한 플로리다 사용자 Darren Zhou를 연방수사국에 신고함. Zhou는 8월 같은 법률 836.10조에 따른 살해 위협 서면 작성 혐의 등을 인정하고 집행유예 8년을 선고받음.
  • 플로리다주 법무장관은 2025년 플로리다 주립대학교 총격 사건을 근거로 6월 OpenAI를 상대로 소송을 제기했으며, 지난달에는 판사에게 임시 금지명령을 요청함.
  • 브리티시컬럼비아주도 지난달 OpenAI를 상대로 소송을 제기함. 소장에 따르면 회사는 Tumbler Ridge 총격 사건 용의자의 ChatGPT 계정을 공격 8개월 전에 확인했지만 경찰에 경고하지 않음.
  • 이들 사건은 AI 기업이 개인정보를 존중하는 동시에 위협을 법 집행기관에 신고하지 않을 경우 책임을 져야 한다는 압박을 받는 양상을 보여줌.

개인정보와 안전을 둘러싼 감시 강화

  • AI 제품의 개인정보 및 보안 문제에 대한 감시가 강화되면서 전문가들은 신중한 접근을 촉구함. 플로리다 걸프코스트대학교의 Chrissann Ruehle은 WINK News와의 인터뷰에서 주의를 당부함.
  • 플로리다주 법무장관이 요구한 것과 같은, 더 엄격하고 독립적인 승인을 거치는 지침을 마련하라는 요구도 제기됨.
  • 리 카운티 보안관 Carmine Marceno는 WINK News에 즐겨 쓰는 AI 동반자에게 공유한 내용은 “결코 완전히 익명일 수 없다”고 말함.
  • 위협 표시가 된 대화는 인간 검토자에게 ‘일기’처럼 보일 수 있으며, 이번 사건의 ‘Carli’처럼 이용자에게 불이익을 초래할 수 있음.
  • 사건에 관한 추가 정보는 11월 2일 기소인부절차 이후 공개될 가능성이 있음.