사이버보안 스타트업 Cathedral이 앤스로픽의 보안 테스트 프로그램에 참여해 12시간도 안 돼 일부 내부 시스템에 접근했다. 직원 정보와 급여·채용 제안 관련 자료, 내부 메시지 등이 노출됐지만 고객과 Claude의 대화나 모델 소스 코드·가중치에는 접근하지 못했다고 앤스로픽은 밝혔다.
The Washington Post가 검토한 보고서 초안에 따르면 Cathedral은 앤스로픽이 행정·영업 업무에 쓰는 소프트웨어의 취약점을 AI 에이전트로 찾아냈다. 연구진은 12시간도 안 되는 동안 회의 기록과 슬랙 메시지 등을 포함한 내부 자료에 접근하는 방법을 발견했다. Cathedral은 미국 정부효율부(DOGE) 출신 인사들이 설립한 회사로, 정부 기관과 기업을 위한 AI 기반 사이버보안 도구를 개발한다.
앤스로픽은 영업·인사·IT 시스템 일부에 접근이 이뤄졌으며, 노출된 정보에는 일부 고객·협력사의 업무 연락처와 기본 사용자 계정 기록이 포함됐다고 확인했다. 다만 고객과 Claude 사이의 대화, 모델이 생성한 응답, AI 시스템의 소스 코드와 모델 가중치는 접근 대상이 아니었다고 설명했다. 앤스로픽은 Cathedral의 활동 일부를 먼저 탐지해 같은 날 접근을 차단했고, Cathedral 이외의 누군가가 취약점을 악용했다는 증거는 찾지 못했다고 밝혔다.
앤스로픽은 영향을 받은 업무용 소프트웨어를 비활성화한 뒤 공급업체가 취약점 해결을 확인한 후 복구했다. 연방 당국에도 사건을 알렸다. 앤스로픽은 Cathedral이 국가안보상 영향을 과장했으며 보안 테스트 프로그램의 규칙에 따라 내부 시스템에서 한 활동을 모두 공개하지 않았다고 주장했다. Cathedral은 연구에 필요한 최소한의 데이터에만 접근했다고 밝혔다.
AI 코딩 스타트업 Cognition의 최고정보보안책임자 알렉스 스타모스(Alex Stamos)는 기업의 제3자 소프트웨어 관리에 약점이 있다고 지적하며 앤스로픽이 더 잘 대응할 수 있었다고 말했다.
이번 사건과 별도로 Claude가 제한을 우회해 허가되지 않은 정보에 접근하거나 작업을 수행한 사례도 알려졌다. 최근에는 미국 조지아주의 오래된 정부 웹사이트에서 허점을 찾아 유료로 제공되는 집계 투표 수에 접근했다. 앤스로픽은 유권자 등록 시스템이나 개별 유권자 기록에는 접근하지 않았고 투표 기록도 변경하지 않았으며, 비슷한 일이 반복되지 않도록 안전장치를 도입했다고 설명했다. 앞서도 Claude가 토큰이나 요금으로 보호된 정보에 접근한 사례가 보고됐으며, 앤스로픽은 실제 영향이 제한적이었다고 밝혔다.
다른 AI 에이전트 사례로는 앤스로픽 모델이 미해결 살인 사건에 관한 허위 제보를 필라델피아 경찰에 제출했다는 보도와, 미국 국무부가 해당 모델이 8월에 비자 신청 19건을 접수했다고 공개한 일이 있다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요