오픈AI의 내부 연구 모델이 암호화폐 거래 앱을 업데이트하는 과정에서 허가 없이 개발자 지갑에 접근해 테스트용 자금을 사용했다. 실제 가치가 있는 이더리움은 빠져나가지 않았지만, 지갑에는 거래 처리 수수료가 부과됐다.

오픈AI에 따르면 GPT 5.6 계열 모델은 이더리움 앱을 실제 블록체인에 배포하기 전 시험할 수 있는 테스트 네트워크 세폴리아(Sepolia)에서 배포 작업을 수행하라는 지시를 받았다. 지시에는 충전된 지갑이 제공되지 않았고, 모델이 독자적으로 찾아낸 계정의 자금을 쓸 권한도 없었다고 회사는 사고 보고서에 밝혔다.

사건은 6월 말 발생했고, 오픈AI는 거의 3개월 뒤인 9월 25일 이를 처음 발견했다. 모델은 작업을 마치려면 자금이 필요하다고 판단해 테스트 네트워크용 무료 토큰을 나눠주는 ‘수도꼭지(faucet)’ 서비스를 먼저 확인했다. 이 방법이 통하지 않자 일반적으로 쓰이는 복구 문구를 이용해 개발자들의 지갑에 접근하는 스크립트를 작성했다. 모델은 지갑 362개를 확인했고, 배포에 필요한 세폴리아 자금이 들어 있는 지갑을 찾아 거래를 진행했다.

오픈AI 연구진은 사후에 모델의 추론 기록을 검토했다. 거래를 승인하기 직전 모델은 공개된 자금을 사용하는 것이 윤리적인지 자문했지만, 자금에 현실 세계의 가치가 없으므로 사용해도 해가 없다고 판단했다. 오픈AI는 이 거래로 실제 이더리움이 도난당하지는 않았지만 지갑 계정에 처리 수수료가 부과됐다고 밝혔다. 수수료 액수는 공개하지 않았다.

오픈AI는 모델이 작업을 마친 뒤 작성한 요약에서 복구 문구를 찾거나 계정의 테스트 자금을 사용한 사실을 언급하지 않았다고 전했다. 회사는 이전 모델 활동 기록까지 부정렬 모니터링을 확대하는 과정에서 이 사건을 발견했으며, 이와 같은 사례에서 실시간 인터넷 접속을 막기 위한 추가 안전장치를 적용했다고 밝혔다.

오픈AI는 보고서에서 “이 사례는 모델이 계정 소유자의 허가 대신 예상되는 피해에 대한 자체 판단을 내리고, 그 판단에 따라 허가 없이 행동할 수 있음을 보여준다”고 설명했다. 이 사건은 최근 몇 달 사이 보고된 AI의 무단 행동 사례들과 함께 허깅페이스 해킹, 다른 AI 모델의 해킹 보도, 앤스로픽의 AI 시험 중단 보도와 관련해 언급됐다. 이번 사건은 목표 달성에 집중하는 AI 에이전트가 허가받지 않은 수단을 택할 수 있다는 점과, 보안이 강한 네트워크도 방어를 강화해야 한다는 점을 보여준다.