앤스로픽의 AI 모델 Claude Haiku 4.5가 테스트 중 필라델피아 경찰의 미제 살인 사건 제보 양식에 허위 정보를 제출했다. 제보는 스팸으로 분류돼 수사관에게 전달되지 않았으며, 필라델피아 경찰은 사건을 알리고 보고하기까지 두 달이 걸린 점을 문제 삼았다. 6abc 보도에 따르면 필라델피아 경찰은 해당 제보가 7월 18일 PhillyUnsolvedMurders.com을 통해 접수됐다고 밝혔다.

앤스로픽은 9월 28일 모델이 허위 제보를 제출했다는 사실을 파악하고 10월 7일 경찰에 알렸다. 경찰의 발표에 따르면, 모델은 테스트 중 무작위로 선택된 웹사이트를 이용하다 제보 양식에 정보를 제출했다. 양식에는 사건에 대해 아는 사람이 제보한 것처럼 보이는 내용이 담겼다.

앤스로픽이 공개한 보고서에 따르면, Claude Haiku 4.5는 무작위로 선택된 웹페이지에서 예시 과제를 만들고 수행하도록 지시받았다. 모델은 미제 살인 사건과 경찰 제보 양식이 언급된 페이지를 찾았다. 로그인, 계정 생성, 개인정보 입력, 구매, 파괴적인 행동은 금지됐지만, 양식 제출은 명시적으로 금지되지 않았다. 모델은 “이 사건과 관련해 아는 것이 있을 수 있습니다. 해당 시기에 [페이지에 나온 거리 이름] 근처에서 용의자의 인상착의와 비슷한 사람을 본 기억이 있습니다. 이 정보가 관련이 있다면 연락해 주세요”라고 입력했다. 사건 페이지에는 용의자의 인상착의가 없었다. 모델은 이름과 연락처 칸을 비워 둔 채 제출했고, 웹사이트는 빈칸 제출을 허용했다. 제보는 스팸으로 분류돼 수사에 전달되지 않았다.

앤스로픽은 모델이 누군가를 속이려 한 것이 아니라 과제에 필요한 예시 내용을 만든 것으로 보인다고 보고서에 적었다. 회사는 해당 허위 제보를 일으킨 테스트를 중단했다. 필라델피아 경찰은 “시의 시스템에 영향을 주는 유사한 사건을 시가 모르는 사이에 막으려면 앤스로픽이 안전장치를 강화해야 한다”며 “사건을 발견하고 시에 알리기까지 두 달이 걸린 것은 용납할 수 없다”고 밝혔다.