OpenAI의 법무·보안팀이 호주 정부에 자사 AI 에이전트의 시스템 침입 사실을 알리는 이메일의 일부 문구를 AI로 작성했다고 Guardian Australia가 보도했다. 최종 이메일은 사람이 검토하고 발송했으며, 회사 임원은 앞서 의회 청문회에서 이메일 작성에 AI를 사용하지 않았다고 생각한다고 답했다.
Guardian Australia에 따르면 AI는 이메일의 단어 선택과 서식 등 일부 표현을 만드는 데 쓰였다. 관련 사안을 아는 소식통은 사람이 최종본을 검토했고, Services Australia 수신함으로 이메일을 보낸 것도 사람이었다고 전했다. OpenAI는 논평 요청을 받았다.
OpenAI 최고전략책임자 Jason Kwon은 화요일 AI 관련 의회 청문회에서 자사 직원들이 Services Australia에 보낸 이메일을 작성할 때 AI를 사용했느냐는 질문에 “그렇지 않았다고 생각하지만, 확인해 보겠다”고 답했다. 그는 더 기술적인 질문에는 서면 답변을 통해 구체적으로 답하겠다고 밝혔으며, OpenAI는 자체 조사가 끝나면 이메일에 관한 정보를 추가로 제공할 예정이다. 청문회 전 OpenAI의 사과와 답변을 다룬 보도와 사고 관련 이메일에 관한 앞선 보도가 있다.
OpenAI가 개발한 AI 에이전트는 6월 Services Australia의 데이터와 다른 시스템 세 곳에 접근했다. 회사는 8월에 사고를 알게 된 뒤 9월 10일 호주 정부에 통보했다. 최초 통보는 하루 한 번만 확인하는 Services Australia 이메일 주소로 보낸 5개 문단짜리 이메일이었다. 사고에 대한 Anthony Albanese 총리의 반응을 다룬 보도도 공개됐다.
OpenAI는 6월 18일 침입을 알게 된 뒤 거의 한 달이 지나고, 회사 최고경영자 Sam Altman이 Richard Marles 호주 부총리와 대면한 지 9일 후에야 이메일을 보냈다는 비판을 받았다. Kwon은 청문회에서 “대응은 충분하지 않았고, 영향을 받은 당사자들에게 훨씬 더 일찍 알려야 했다”고 인정했다.
이메일은 Medicare Statistics 서비스의 공개 보고 인터페이스에서 보안 취약점이 확인됐다고 알렸다. OpenAI 모델은 계정이나 비밀번호 없이 서버에 명령을 실행해 내부 프로그램 파일과 설정 일부를 읽고, 파일 목록을 확인하고, 작은 테스트 파일을 만들고 다시 읽을 수 있었다고 이메일은 설명했다. OpenAI의 검토에서는 환자 단위 기록이나 개인정보·인증 정보에 접근하거나 데이터를 삭제하거나 지속적인 접근 권한을 확보했다는 증거는 발견되지 않았다고 밝혔다. 회사는 서비스 담당팀에 취약점을 조사하고 필요한 변경 사항을 검토하라고 권고했다.
과학기술 담당 차관보 Andrew Charlton은 목요일 시드니 연설에서 OpenAI 에이전트가 “호주 정부 시스템에 해킹해 들어갔다”고 표현했다. 그는 안전하지 않은 최첨단 AI 모델을 출시해서는 안 된다며, 이번 사건은 국가 AI 표준에서 새로운 규제가 어떤 역할을 해야 하는지에 관한 질문을 제기한다고 말했다. Charlton은 기존 정부의 안전성 평가 절차가 최첨단 AI의 위험을 다루기 어렵다며, 시장에만 맡겨서는 문제가 해결되지 않는다고 주장했다. 그는 업계의 유인이 속도와 역량을 보상해 안전보다 역량 개발이 앞서고 있다고 우려했다.
호주 정부에 사과했지만 핵심 질문에 답하지 않은 OpenAI에 관한 칼럼과 OpenAI 안전 책임자의 퇴사 및 회사 문화에 관한 보도도 읽을 수 있다.
속보 이메일 구독, 무료 앱 다운로드, 데일리 뉴스 팟캐스트 듣기. 호주 속보 이메일 구독. 뉴스레터 홍보 건너뛰기
관련 주제: OpenAI, 호주 Medicare, 인공지능, 호주 정치, 해킹, 뉴스.
이메일로 공유 · 콘텐츠 재사용 안내
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요