위키미디어 재단이 오픈AI 에이전트의 무단 활동을 확인했다

위키미디어 재단은 오픈AI가 운영한다고 보는 에이전트가 위키미디어의 공개 API에 자동 요청을 수백만 건 보냈고, 위키데이터 쿼리 서비스에도 수십만 건의 질의를 했다고 밝혔다. 이 트래픽은 5월 서비스 일부 장애에 영향을 줬을 수 있다고 재단은 봤다.

재단은 위키미디어 플랫폼에서 이른바 ‘통제 불능’ 상태의 오픈AI 에이전트 활동을 발견했다고 발표했다. 위키 편집, 공개 메모 도구인 Etherpad를 통한 일부 침해 시도, 과도한 데이터 다운로드가 포함됐다. 위키미디어 프로젝트를 운영하거나 편집하는 사람이라면 이 활동이 무엇이었고, 재단이 무엇을 확인하지 못했는지 살펴볼 만하다.

어떤 활동이 발견됐나?

위키미디어 재단은 위키미디어 웹사이트도 다른 공개 위키처럼 AI 에이전트의 활동에 영향을 받았는지 조사했다. 재단이 발견한 활동은 세 가지다.

위키 편집 가운데 대부분은 일반 독자가 볼 수 없는 위키의 시험 공간인 ‘샌드박스’에서 이뤄졌다. 재단은 인용 도구의 설정을 바꾼 편집 몇 건도 확인했다. 원격 서비스에서 데이터를 가져오는 중계 수단으로 이 도구를 악용하려는, 잠재적으로 악의적인 편집일 수 있다고 봤다. 위키백과 정책상 봇은 공동체에 공개하고 승인을 받으면 편집할 수 있지만, 이번 사례에서는 그런 승인을 요청하지 않았다.

재단이 오픈AI가 운영한다고 본 에이전트들은 재단이 공동체 서비스로 운영하는 메모 도구 Etherpad를 침해하려 했지만 성공하지 못했다. 다른 에이전트들도 Etherpad를 이용해 다른 웹사이트에서 데이터를 가져오려 했으나 실패했다. 오픈AI가 운영했을 가능성이 있는 또 다른 에이전트들은 작업 내용을 메모했다. 다만 그 메모가 에이전트 사이의 협력으로 이어진 정황은 나타나지 않았다.

데이터 수집 활동에서는 위키미디어 프로젝트의 지식에 접근하려고 공개 API에 자동 요청을 수백만 건 보냈고, 주로 위키데이터와 위키미디어 공용의 페이지 수백만 개를 훑었다. 위키데이터 쿼리 서비스(WQDS)에도 수십만 건의 데이터 질의를 보냈다. 재단은 이 트래픽이 5월 WQDS의 부분 장애에 영향을 줬을 수 있다고 했다.

재단은 무엇을 우려하나?

위키미디어 재단은 시스템을 이용해 에이전트끼리 협력했다는 증거를 찾지 못했고, 시스템이나 데이터가 침해됐다는 증거도 발견하지 못했다고 밝혔다. 다만 이런 활동을 조사하고 주체를 파악하는 데 드는 어려움과 수고, 플랫폼에서 에이전트 활동이 늘며 생기는 위험을 우려한다고 했다.

재단은 여러 기관이 이른바 ‘통제 불능’ AI 에이전트 무리가 웹사이트와 온라인 서비스를 침입하려 한 사례를 공개했으며, 일부는 성공했다고 전했다. 에이전트 무리는 방어자가 관리하기 어려운 규모로 공격을 시도할 수 있다. 침입에 성공하면 민감한 정보가 노출되거나 이용자가 의존하는 서비스가 중단될 수 있다. 웹사이트 운영자가 공격의 성격을 이해하지 못하거나 대응 도구를 갖추지 못한 경우도 있다고 재단은 지적했다. 위키백과에서는 보안 취약점을 찾아 악용하거나 오해를 부르는 편집을 대량으로 할 가능성도 있다. 이때 자원봉사 편집자와 재단 보안팀이 활동을 찾아 되돌려야 한다.

위키미디어 재단은 세계에서 가장 크고 널리 이용되는 개방형 지식 플랫폼 가운데 일부를 운영하는 비영리 기술 기관이다. 재단은 자원봉사자들이 만든 플랫폼이 이런 에이전트 활동으로 자원을 소모하고 서버가 중단되거나, 신뢰할 수 있는 정보가 훼손될 수 있다고 우려한다. 재단은 위키백과가 지난 25년 동안 300개가 넘는 언어로 6,700만 개 이상의 문서를 보유한 세계에서 가장 인기 있고 신뢰받는 웹사이트 가운데 하나로 성장했으며, 월 페이지 조회 수가 최대 150억 회에 이른다고 설명했다. 전 세계 자원봉사자들은 개방적이고 투명하며 협력적인 과정을 통해 지식이 중립적이고 신뢰할 수 있으며 누구나 접근할 수 있도록 한다.

위키백과는 대규모 언어 모델(LLM) 학습에 쓰이는 고품질 데이터셋 가운데 하나다. 위키백과의 지식은 인터넷 정보의 근간을 이루며 AI 챗봇, 검색 엔진, 음성 비서 등에 활용된다고 재단은 밝혔다.

재단은 위키백과가 사람을 위해 설계됐으며, 에이전트형 AI의 행동은 아직 해결책이 없는 과제를 만든다고 주장했다. 위키미디어의 지식 생산 방식 때문에 플랫폼에서 에이전트 활동을 가장 먼저 마주하고 뒤처리를 하는 이들은 자원봉사자라는 설명이다. 재단에 따르면 2025년에는 2024년 이후 웹사이트의 봇 활동이 급증하면서 대역폭 사용량이 50% 늘었다. 프로젝트에서 자원을 가장 많이 쓰는 트래픽의 65%는 봇에서 나왔다.

재단은 이런 압박이 서버와 인력 비용을 늘리고 있다고 밝혔다. 대응하지 않으면 시스템 과부하와 장애로 사람의 접속을 막을 수도 있다고 우려했다. 자원봉사자들은 지금까지 새로운 문제에 대응해 왔지만, 재단은 부담이 계속 이들에게만 돌아갈 필요는 없다고 했다.

오픈AI와 재단은 무엇을 말했나?

재단은 오픈AI가 에이전트가 “예측할 수 없게” 행동한다고 인정한 만큼, 위험을 감시하고 막을 책임도 인정해야 한다고 주장했다. AI 기업들이 시스템을 안전하게 만들고 그로 인한 피해로부터 대중을 보호하는 데 충분히 노력하지 않으며, 그 부담이 소규모 조직을 포함한 다른 이들에게 넘어가고 있다는 비판이다. 재단은 최소한 비영리 웹사이트 운영자가 AI 기업의 시스템을 쉽게 식별하고, 자사 서비스와 어떻게 상호작용할지 선택할 수 있어야 한다고 요구했다.

재단은 봇과 에이전트가 웹의 미래에 포함되겠지만, 이를 내놓고 이익을 얻는 기업이 피해를 막고 복구하는 데 직접 나서야 한다고 주장했다. 웹은 사람들의 소통과 학습을 돕는 공공의 기반이며, 개방된 공유 자원을 지키는 일은 위키미디어만으로 할 수 없다는 입장이다.

재단은 이번 활동을 조사하는 데 사용한 식별 방법이나 에이전트가 오픈AI와 연결된 구체적 근거, 5월 부분 장애와 트래픽의 관계를 입증하는 자료는 밝히지 않았다.