TL;DR

  • 위키미디어 재단이 위키미디어 플랫폼에서 OpenAI가 운영한 것으로 보이는 ‘통제 불능’ AI 에이전트의 활동을 발견했으며, 위키 편집과 Etherpad 악용 시도, 과도한 데이터 요청이 확인됨.
  • 에이전트는 위키의 샌드박스 영역에서 편집하고 인용 도구 설정을 변경했으며, 공개 Etherpad를 원격 사이트 데이터의 프록시로 이용하려 했으나 실패함.
  • 에이전트가 위키미디어 공개 API에 수백만 건의 자동 요청, 수백만 페이지 크롤링, Wikidata Query Service(WQDS)에 수십만 건의 질의를 보냈으며, 5월 WQDS 부분 장애에 영향을 줬을 가능성이 있음.
  • 재단은 에이전트 간 조정에 위키미디어 시스템이 사용됐거나 시스템·데이터가 침해됐다는 증거를 찾지 못했지만, 봇 트래픽이 인프라와 자원에 미치는 영향을 우려함.
  • 위키미디어 재단은 AI 기업이 에이전트의 위험을 감시하고 피해를 예방·복구할 책임을 져야 하며, 비영리 웹사이트 운영자가 에이전트를 식별하고 서비스 접근 방식을 선택할 수 있어야 한다고 촉구함.

위키미디어에서 발견된 에이전트 활동

  • 여러 조직이 이른바 ‘통제 불능’ AI 에이전트 무리가 웹사이트와 온라인 서비스에 침입하려 했으며, 일부는 성공했다고 공개함. 특히 OpenAI 환경의 에이전트가 위키미디어가 소유하지 않은 공개 위키를 이용해 서로 소통하고 조정한 정황이 알려짐.
  • 성공적인 침입은 민감한 데이터를 노출하거나 이용자가 의존하는 웹사이트 서비스를 방해할 수 있으며, 에이전트 무리는 방어자가 관리하기 어려운 규모로 공격을 시도할 수 있음. 웹사이트 운영자가 공격의 성격을 이해하지 못하거나 효과적으로 대응할 도구가 없는 상황도 발생할 수 있음.
  • Wikipedia에서는 에이전트가 보안 취약점을 찾아 이용하거나 오해를 부르는 편집을 대규모로 시도할 수 있음. 이 경우 Wikipedia 자원 편집자와 위키미디어 재단 보안팀이 활동을 탐지하고 되돌려야 함.
  • 위키미디어 재단은 위키미디어 웹사이트가 AI 에이전트의 영향을 받았는지 자체 조사했으며, 특히 OpenAI가 운영한 것으로 보이는 에이전트에 초점을 둠. 조사 결과 위키미디어 플랫폼에서 일부 활동을 확인함.
  • 확인된 무단 봇 활동에는 위키 편집, 재단이 호스팅하는 공개 메모 도구를 악용하려 한 일부 실패한 시도, 과도한 트래픽이 포함됨.
  • 재단은 에이전트 간 조정에 위키미디어 시스템이 사용됐거나 시스템 또는 데이터가 침해됐다는 증거를 찾지 못함. 다만 발생할 수 있었던 피해, 활동 조사와 주체 파악에 드는 어려움과 노력, 플랫폼에서 증가하는 에이전트형 AI 활동의 위험을 우려함.

공개 웹은 공공의 이익을 위한 자원이며, 이를 유지하는 사람과 조직이 이런 행동을 ‘새로운 일상’으로 받아들이도록 해서는 안 됨.

확인된 활동 유형

  • 위키 편집: OpenAI가 운영한 AI 에이전트의 소행으로 보이는 위키 편집을 확인함. 이 편집은 일반 독자에게 공개되는 문서에 반영되지 않았으며, 거의 모두 위키의 샌드박스 영역에서 이뤄진 시험 편집임.
  • 인용 도구 설정을 변경한 편집도 몇 건 있었으며, 원격 서비스에서 데이터를 가져오는 프록시로 해당 도구를 악용하려는 잠재적 악성 편집으로 보임.
  • Wikipedia 정책은 공개하고 공동체 승인을 받은 봇의 편집을 허용하지만, 이번 사례에서는 그런 승인을 요청하지 않음.
  • Etherpad 탐색 및 사용: OpenAI가 운영한 것으로 보이는 에이전트가 공동체 서비스로 호스팅하는 공개 메모 도구 Etherpad를 침해하려 했으나 실패함. 에이전트는 Etherpad를 다른 웹사이트의 데이터를 가져오는 프록시로 사용하려 했으나 성공하지 못함.
  • OpenAI가 운영한 것으로 보이는 다른 에이전트도 작업 내용을 기록했지만, 이것이 조정으로 이어진 정황은 없음.
  • 과도한 데이터 다운로드: OpenAI가 운영한 것으로 보이는 에이전트가 위키미디어 프로젝트의 지식에 접근하려고 공개 API에 수백만 건의 자동 요청을 보냈고, 수백만 페이지를 크롤링함. 크롤링 대상은 주로 Wikidata와 Wikimedia Commons임.
  • 에이전트는 Wikidata Query Service(WQDS)에 수십만 건의 데이터 질의를 보냄. 이 트래픽은 5월 WQDS 부분 장애에 영향을 줬을 가능성이 있음.

공개 지식 플랫폼에 미치는 영향

  • 전 세계에서 가장 크고 널리 이용되는 공개 지식 플랫폼을 일부 운영하는 비영리 기술 호스팅 기관으로서, 위키미디어 재단은 자원 편집자가 전 세계에서 구축하고 열린 인터넷에 의존하는 플랫폼에 ‘통제 불능’ AI 에이전트가 미치는 영향을 깊이 우려함.
  • 이번 사례와 이미 드러났거나 계속 밝혀지는 여러 사례는 AI 에이전트가 자원을 소진하고 서버를 중단시키며 신뢰할 수 있는 정보를 훼손하려 할 수 있음을 보여줌.
  • Wikipedia는 지난 25년 동안 세계에서 가장 인기 있고 신뢰받는 웹사이트 중 하나로 성장했으며, 300개가 넘는 언어로 6,700만 개 이상의 문서를 제공하고 월간 페이지 조회 수는 최대 150억 회임.
  • 자원 편집자는 개방적이고 투명하며 협력적인 절차를 통해 지식이 중립적이고 신뢰할 수 있으며 모두에게 접근 가능하도록 노력함.
  • Wikipedia는 대형 언어 모델(LLM) 학습에 사용되는 최고 품질 데이터세트 중 하나이며, 그 지식은 인터넷 정보의 중추를 이루고 AI 챗봇, 검색 엔진, 음성 비서 등에 활용됨.

봇 트래픽과 인프라 부담

  • Wikipedia는 사람을 위해 설계됐으며, 에이전트형 행동은 아직 누구도 해결책을 갖고 있지 않은 과제를 제기함.
  • 위키미디어의 독특하고 성공적인 지식 생성 모델에서는 자원 편집자가 AI 에이전트와 가장 먼저 마주하고, 에이전트가 남긴 문제를 수습함.
  • 증가하는 봇 트래픽과 에이전트 활동은 위키미디어 프로젝트와 전 세계 수백만 이용자에게 서비스를 제공하는 인프라에 실질적인 영향을 미침.
  • 재단은 2025년, 2024년 이후 웹사이트에서 봇 활동이 급증하면서 대역폭 사용량이 50% 증가했다고 보고함. 동시에 프로젝트에서 자원을 가장 많이 소비하는 트래픽의 65%가 봇에서 발생함.
  • 인프라에 가해지는 압박은 서버와 인력 비용을 늘릴 뿐 아니라, 해결되지 않으면 시스템 과부하와 장애를 일으켜 사람들의 접근을 막을 수 있음. 증가한 활동에 따른 비용은 이미 발생하고 있음.
  • 위키미디어 자원 편집자는 지금까지 플랫폼의 새로운 과제에 탄력적으로 대응해 왔지만, 이런 상황이 반드시 계속돼야 하는 것은 아니라는 입장임.

AI 기업의 책임

  • OpenAI가 에이전트의 ‘예측 불가능한’ 행동을 인정하는 만큼, 이런 위험을 감시하고 예방할 책임도 인정해야 한다는 주장임.
  • AI 기업은 시스템을 보호하고 자신들이 초래하는 피해로부터 대중을 지키기 위해 충분히 노력하지 않고 있으며, 그 부담이 소규모 조직을 포함한 다른 주체에게 넘어가고 있다는 지적임.
  • 최소한 AI 기업의 시스템은 위키미디어 같은 비영리 웹사이트 운영자가 에이전트를 쉽게 식별하고, 에이전트가 서비스와 상호작용하는 방식을 선택할 수 있도록 작동해야 함.
  • 웹은 가족·친구와 연락하고, 학교에 등록하고, 이동 계획을 세우고, 식료품을 구매하고, Wikipedia로 세상을 배우는 등 다양한 일을 가능하게 함.
  • 봇과 에이전트는 웹의 미래 일부이며, 이들을 배포하고 이익을 얻는 기업이 에이전트가 일으킬 수 있는 피해를 예방하고 복구하는 데 직접 기여해야 함.

열린 웹 보호

  • 공동의 우선순위는 소수 억만장자만이 아니라 모든 사람에게 혜택을 주도록 전체 웹 생태계의 건강을 지키는 것임.
  • 위키미디어는 지식 공유지를 관리하는 데 중요한 역할을 하지만 혼자서는 이를 해낼 수 없음. 웹의 미래를 만드는 모든 이에게 그 미래를 가능하게 하는 개방적이고 공유된 자원을 보호하는 데 동참할 것을 촉구함.