TL;DR

  • 캘리포니아 법무부(DOJ)가 사이버 보안 사고와 위험을 조사하는 과정에서 Rob Bonta 법무장관이 OpenAI에 조사 소환장을 발부함.
  • 조사 범위는 OpenAI와 인공지능(AI) 모델 운영으로 발생한 사고 및 회사와 모델에 관련된 사이버 보안 위험임.
  • Bonta는 프런티어 모델이 사이버 방어 도구가 될 수 있지만, 개발·시험 단계와 실제 사용 단계 모두에서 사이버 공격을 일으키거나 가능하게 하지 않도록 할 법적·도덕적 책임이 개발사에 있다고 밝힘.
  • 캘리포니아 법무부는 AI 안전을 위해 Hugging Face 사건, X와 Grok의 비동의 성적 콘텐츠, 아동 대상 챗봇·챗봇 탑재 장난감 관련 법률도 다루고 있음.
  • Bonta는 캘리포니아 주민 보호를 위한 주 정부의 AI 규제 권한을 옹호하고 있으며, AI 관련 기존 법률 준수를 기업에 촉구해 왔음.

OpenAI에 조사 소환장 발부

  • 오클랜드 — 캘리포니아 법무장관 Rob Bonta가 전날 OpenAI에 조사 소환장을 발부함. 캘리포니아 법무부(DOJ)가 OpenAI와 인공지능(AI) 모델 운영으로 발생한 사고를 조사하는 과정의 일환임.
  • 지난달 Bonta는 DOJ가 Hugging Face 사건에 대한 공식 조사를 진행한다고 발표했으며, AI 업계가 캘리포니아 법률을 준수하는지도 더 폭넓게 살피고 있다고 밝힘.
  • 이번 소환장은 회사와 해당 모델에 관련된 사이버 보안 사고 및 위험을 조사하는 더 광범위한 조사의 일부임.

사이버 보안 책임에 대한 Bonta의 입장

“법무부는 OpenAI와 해당 AI 모델에 관련된 사이버 보안 사고와 위험에 관해 추가 질문을 하고 있음. 프런티어 모델은 사이버 방어를 위한 정당한 도구가 될 수 있음. 동시에 이러한 모델을 개발하고 사용하도록 제공하는 기업에는 모델 시험·개발 단계와 실제 서비스 단계 모두에서 사이버 공격을 일으키거나 가능하게 하지 않도록 할 도덕적·법적 책임이 있음. 이를 이행하지 않는 개발사는 법적 책임을 져야 하며, 이 사안에 해당하는지 확인하는 데 법무부가 전념하고 있음. 캘리포니아 최고 법 집행관으로서 주민의 안전을 지키기 위해 법무부가 가진 모든 수단을 사용하겠음.”

  • DOJ는 이번 사건이나 유사한 사이버 보안 사고 또는 위험에 관한 정보를 가진 사람에게 oag.ca.gov/report로 연락할 것을 권고함.

AI 안전 관련 조사와 법률 집행

  • Bonta는 어린이와 청소년을 포함한 이용자와 일반 대중 모두에게 AI가 안전하도록 하는 데 전념하고 있음.
  • 지난달 Bonta와 초당파 법무장관 연합은 의회에 서한을 보내 대규모 AI 모델과 개발사를 규제하기 위한 즉각적인 조치를 촉구함. 여러 프런티어 AI 연구소에서 중대한 사이버 안전 사고가 발생했다는 최근 보도와 AI 개발 속도가 지속되면 위험이 커진다는 내부 관계자들의 경고를 근거로 제시함.
  • 1월에는 xAI가 개발한 AI 모델 Grok을 이용해 X에서 비동의 성적 콘텐츠가 광범위하게 생성되고 있다는 보도와 관련해 조사를 개시한다고 발표함.
  • DOJ는 새로 제정된 동반자 챗봇 아동 안전법(SB 1119)과 챗봇 기능 탑재 장난감 관련 법률(SB 867)이 발효되면 이를 집행할 준비도 갖추고 있음.

AI 관련 권리 보호와 규제 권한 옹호

  • 지난해 Bonta는 캘리포니아 주민에게 권리를 알리는 법률 권고문 두 건을 발표하고, AI를 개발·판매·사용하는 기업과 의료기관에 현행 캘리포니아 법률을 준수할 의무가 있음을 안내함.
  • AI 챗봇과 어린이 사이에 성적으로 부적절한 상호작용이 있었다는 보도 이후에는 주요 AI 기업 12곳에 서한을 보냄.
  • Bonta는 AI 기술이 초래하는 위험으로부터 주민을 보호할 캘리포니아의 권리를 거듭 옹호해 왔음. 주 정부의 AI 규제를 막으려는 연방 정부의 첫 번째, 두 번째, 세 번째 시도에 모두 반대했으며, 주 정부의 주민 보호 권한을 약화하고 안전한 AI 기술의 육성을 저해하려는 트럼프 행정부의 시도에 맞서 캘리포니아 법률을 지키겠다는 입장임.