TL;DR

  • Bill Gates가 안전장치와 모니터링을 의무화하는 AI 규제를 촉구하며, 통제되지 않은 AI가 잘못된 사람의 손에 들어가면 10억 명의 죽음을 초래할 수 있다고 경고함.
  • Gates는 기업의 자율 규제만으로는 충분하지 않으며, 규제가 업계에 일부 부담을 주더라도 개발을 크게 늦추지는 않을 것이라고 주장함.
  • Gates는 킬 스위치만으로는 충분하지 않으며, AI가 자율적으로 컴퓨터를 장악해 종료할 수 없게 되는 단계에는 아직 이르지 않았다고 설명함.
  • AI가 생물무기와 핵전쟁을 비롯한 대규모 인명 피해를 초래할 수 있다는 우려가 제기되는 한편, Microsoft의 Azure가 가자지구와 미국의 이민자 감시·단속에 쓰였다는 비판도 언급됨.
  • Gates의 규제 촉구는 Epstein과의 만남을 둘러싼 논란 이후 공개 활동을 재개하는 가운데 나온 발언임.

AI 규제와 안전장치 촉구

  • Bill Gates가 일요일 방영 예정인 NBC의 Kristen Welker와의 인터뷰에서 미국 연방 입법자와 법 집행기관에 인공지능(AI) 개발 규제를 촉구함.
  • Gates는 통제되지 않은 AI가 “10억 명의 죽음”을 초래할 수 있으며, 자율 규제만으로 충분하다고 생각하는 사람은 없다고 말함.
  • > “안전장치와 모니터링이 어떤 모습이어야 하는지 논의에 법 집행기관과 정치인이 참여해야 함. 이는 의무 사항이어야 함.”
  • Gates는 규제가 업계에 어느 정도의 간접비를 더하겠지만, 기업의 활동을 극적으로 늦추지는 않을 것이라고 설명함.
  • 인터뷰의 다른 발췌 내용에서 Gates는 악의를 가진 사람이 AI를 잘못된 목적으로 사용하면 사건을 일으켜 “10억 명의 죽음”을 초래할 만큼 강력할 수 있다고 경고함.
  • Gates는 최신 AI 도구를 악의를 가진 사람이 사용하는 상황이 그 어느 때보다 강력한 무기가 될 수 있다고 말하며, 기술 및 정치계 인사들의 최근 유사한 경고에 동참함.

킬 스위치와 AI의 위험

  • AI가 지나치게 강력해질 경우 작동을 중단하는 ‘킬 스위치’ 개념에 대해 Gates는 그것만으로는 충분하지 않다고 말함.
  • Gates는 AI가 자율적으로 컴퓨터를 장악해 종료할 수 없게 되는 단계에는 아직 이르지 않았다고 설명하고, 킬 스위치 논의가 일부 사람들의 기술 이해 부족을 보여준다고 지적함.
  • 대체로 인류의 미래를 낙관해 온 Gates는 8월 말 약 6,000단어 분량의 글을 공개해 AI와 인류에 대규모로 치명적인 피해를 줄 수 있는 위험을 경고함.
  • Sam Altman과 Elon Musk를 비롯한 기술계 거물들도 AI 개발 속도를 늦춰야 한다는 주장에 동참함. 일부 전문가들은 생물무기와 핵전쟁 등으로 인한 인류의 대량 파괴 가능성을 거론함.

Microsoft와 AI 활용을 둘러싼 비판

  • Microsoft는 AI를 둘러싼 디스토피아적 우려를 부추기는 데 역할을 했다는 비판에 직면함.
  • Microsoft 직원과 활동가들은 이스라엘군과의 관계를 끊도록 촉구하는 캠페인을 조직함. Guardian의 금요일 기고문에 따르면 이스라엘군은 AI 도구를 사용해 가자지구에서 사람들을 살해했으며, 미국군과 함께 이란에서도 해당 도구를 사용함.
  • No Azure for Apartheid 단체의 Mohamed Hussein과 Granate Kim은 AI가 초래하는 참상이 미국에서도 나타난다고 경고함.
  • Hussein과 Kim은 미국 국토안보부가 Microsoft의 Azure 같은 AI 도구를 이민자들을 대규모로 감시하고 체포·추방하는 데 사용했다고 밝힘.

Epstein 논란과 인터뷰의 다른 발언

  • 8월의 글과 일요일 인터뷰는 Gates가 Jeffrey Epstein을 둘러싼 논란에 휘말린 뒤 공개적으로 나선 주요 사례 가운데 두 건임.
  • 성범죄로 유죄를 인정한 금융업자 Epstein은 2008년 미성년자를 성매매에 제공한 혐의를 인정했으며, 11년 뒤 성매매 혐의로 수감된 상태에서 자살함.
  • Gates의 자선재단이 의뢰해 7월 공개한 외부 검토 결과에 따르면 Gates를 포함한 재단 관계자와 지도부는 2011년부터 2014년까지 Epstein과 약 30차례 회동함.
  • Gates는 Epstein의 인정된 범죄나 제기된 혐의에 연루됐다는 의혹을 받지 않았으며, Epstein과 보낸 “모든 순간”을 후회한다고 밝힘. Gates는 890억 달러 규모의 Gates Foundation 자선단체 이사장직을 유지함.
  • Welker가 개인적·직업적으로 AI에 상담하지 않는 경우가 있는지 묻자 Gates는 개인적인 관계에 AI를 사용하지 않는다고 답함.
  • > “가족과 친구 등에서 운이 좋은 편이라 그 길로 간 적이 없음. AI와 어울리지 않음. AI도 내가 매우 진지한 사람이라는 걸 알고 있음.”