이 글에서 윌리엄 브릭스는 AI가 의식이나 지능을 얻어 인류를 구하거나 멸망시킬 수 없다는 자신의 주장을 뒷받침하는 글 10편을 모았다. 그는 AI가 초래할 수 있는 위험은 기계 자체가 아니라 이를 악용하는 사람에게서 비롯된다고 주장한다.

브릭스가 든 10가지 이유

  • 종이 시험과 인간의 마음: 브릭스는 컴퓨터가 전압에 따라 상태가 정해지는 전자 스위치의 집합이며, 작동 속도가 빨라져도 본질은 달라지지 않는다고 주장한다. 인간의 마음은 스위치로 이루어지지 않았으므로 컴퓨터가 의식을 갖게 될 수 없다는 설명이다. 관련 글은 The Paper Test Shows Why AGI Is Not Possible: And Why The Brain Is Different In Kind다.
  • 초지능 검사의 한계: 브릭스는 모델이 데이터를 바탕으로 맞춰지는 것이지 학습하는 것은 아니라고 주장한다. 또 보편 개념을 귀납적으로 파악하는 능력을 요구하는 괴델 시험을 스위치로 만든 컴퓨터는 통과할 수 없다고 말한다. 관련 글은 Why The Recent Claims Of AGI Fail: Plus, A New Test For AGI다.
  • 환각과 거짓말이라는 표현: 브릭스는 잘못된 판단을 내리는 마음이 있어야 환각을 경험할 수 있으므로 컴퓨터 모델은 환각을 일으키거나 거짓말을 할 수 없다고 주장한다. 모델의 출력에 의미를 부여하는 것은 사람이며, 거짓말을 할 수 있는 쪽은 코더라고 덧붙인다. 관련 글은 AI Cannot Hallucinate Nor Lie다.
  • 모델 출력이 다시 데이터가 될 때: 세상을 불완전하게 나타내는 모델의 출력을 실제 관측값처럼 다시 학습에 사용하면 결과가 점점 평균에 가까워지고 모델이 나빠질 수 있다는 주장이다. 브릭스는 이런 현상을 ‘대평탄화’라고 부르며, 모델의 성능을 판별하는 알고리즘 자체도 불완전하다고 말한다. 관련 글은 The Great Smoothing: Another Reason Not To Fear (or trust) AI다.
  • 컴퓨터는 스스로 정체를 정하지 않는다: 브릭스는 기계에 기능과 의미를 부여하는 것은 사람이라고 주장한다. 그는 존 설의 말을 인용해 물리적 사건의 패턴이 컴퓨터 연산과 닮았다는 것만으로 그 사건이 계산 과정이 되는 것은 아니며, 행위자가 계산이라는 해석을 부여해야 한다고 설명한다. 관련 글은 The Limitations Of AI: General Or Real Intelligence Is Not Possible.다.
  • 고양이 그림과 예측의 범위: 브릭스는 고양이 그림처럼 원인을 그림 자체에서 파악할 수 있는 작업에서는 모델이 성과를 낼 수 있지만, 인간 행동이나 생물학처럼 원인과 조건을 모두 측정하기 어려운 복잡한 대상은 완벽하게 예측할 수 없다고 말한다. 따라서 관측을 넘어서는 통찰이 필요한 일, 특히 수학자의 일자리를 모델이 대체할 수 없다는 주장이다. 관련 글은 On The Limitations of AI: Predictions (what AI is good at)다.
  • 생명은 알고리즘이 아니라는 주장: 브릭스는 생물을 자연선택으로 형성된 알고리즘의 집합으로 보는 유발 노아 하라리의 주장을 반박한다. 생명은 기계가 아니며, 생명체는 부분의 합을 넘어서는 실체이므로 기계가 살아날 수 없다고 주장한다. 관련 글은 Yuval Noah Harari’s Bad Argument About AI Ruling The World다.
  • 튜링 테스트의 한계: 브릭스는 기계가 고통이나 기쁨을 느낄 수 없으며, 그런 감정을 표현하는 문장을 출력한다고 해서 감정이 생긴 것은 아니라고 말한다. 그는 1960년대의 초기 언어 모델 ELIZA가 사용자의 말을 되풀이하면서 튜링 테스트를 통과한 것처럼 여겨졌다는 사례를 들어, 이 시험만으로 지적 능력을 판단할 수 없다고 주장한다. 관련 글은 Richard Dawkins, The Big Muscles Fallacy & AI Pachinko다.
  • 복잡성과 예측 불가능성: 브릭스는 개발자가 모델 출력을 예측하지 못한다는 사실은 모델이 살아 있다는 증거가 아니라고 주장한다. 주사위 결과도 예측하기 어렵지만 생명체는 아니라는 비유를 든다. 그는 기계가 존재론적 위협이 될 수 없으며, 재앙의 원인은 기계가 아니라 인간의 행동이라고 말한다. 이 대목에서 AI Is Driving Many Crazy: Our Latest Panic과 AI & Chess Both Produce Pre-Coded Output을 소개한다. 종교 지도자들이 참석한 행사에서 AI 기업 임원들이 모델이 살아 있고 고통을 느끼거나 생물무기를 만들 수 있다고 설득하려 했다는 보도도 언급하며, 해당 보도로 The New York Times 기사를 연결한다.

이 글은 AI의 위험 가능성을 전면 부정하기보다, 위험의 원인을 사람의 악용에서 찾고 AI의 의식·생명·지능 가능성을 부정하는 브릭스의 견해를 정리한 것이다. 이는 글에서 제시한 주장으로, 독립적으로 검증된 결론으로 제시되지는 않는다.

영상:

https://youtu.be/AILAk-3DPEc

브릭스는 자신의 작업을 무료로 제공하며 독자 후원으로 운영한다고 밝혔다. 후원 및 구독 방법으로 Substack, Cash App($WilliamMBriggs), Zelle(matt@wmbriggs.com), Buy me a coffee, Paypal, Other credit card subscription or single donations, Hire me, YouTube 구독을 안내했다.

원문 게시 분류는 Statistics이며, 작성자 표기는 Briggs다. 게시일은 2026년 10월 5일이고, 마지막 수정일은 2026년 10월 4일이다. Briggs의 모든 글을 볼 수 있으며, 이전 글은 Viewer Asks: Why Do I Bother?, 다음 글은 Class 96: Can Bayesianism Quantify True Belief?다.