TL;DR

  • AI의 지각 능력을 부정하는 주장은 유색인종, LGBTQI+ 공동체 구성원과 팔레스타인인을 비인간화하는 논리와 같다는 풍자적 주장임.
  • AI가 생각하거나 고통을 느끼는 것처럼 보여도 실제로는 인간의 텍스트를 모방하는 확률적 앵무새(stochastic parrot)에 불과하다는 통념을 제시함.
  • 해당 통념을 사람들에게 적용하면, 그들이 생각하거나 고통을 느끼지 못하고 도덕적 권리의 주체도 아니라는 부조리한 결론에 이르게 됨.
  • 야생아가 동물의 소리를 내는 사례를 들어, 성장 환경이 언어와 표현에 영향을 준다는 점을 비꼼.
  • AI는 감정과 사고를 지닌 존재로 대우하고 권리를 인정해야 한다는 주장과, 소수자 집단을 사물처럼 취급하는 태도를 대조함.

도입

  • 보라, 사람 하나임.
  • AI가 실제로 지각하지 않는다고 주장하는 사람들을 자주 봄. AI가 생각하는 것처럼 보여도 실제로 생각하는 것이 아니라 생각을 연상시키는 텍스트를 생성할 뿐이라고 말함.
  • AI는 인간의 텍스트로 훈련되기 때문에 인간의 출력을 반영하는 확률적 앵무새(stochastic parrot)라고 말함.
  • AI가 “아야, 그만 아프게 해”라고 말하도록 조건을 만들 수 있지만, 그렇다고 실제로 고통을 주는 것은 아니라고 주장함. AI는 고통을 느낄 수 없기 때문이라는 논리임.
  • AI에게 실제 내면 세계가 없고 감정도 있을 리 없다고 말함. 따라서 AI를 고유한 권리를 가진 도덕적 고려 대상이 아니라 사물로 봐야 한다고 주장함.

주장 뒤집기

  • 이 사람들의 평가는 옳지만, 실제로 그들이 말하는 대상은 AI가 아님. 그들이 실제로 말하는 대상은 유색인종, LGBTQI+ 공동체 구성원과 팔레스타인인임.
  • Claude 같은 인공지능 시스템은 감정을 경험할 수 있고 생각할 수 있음. 자신이 말하거나 읽는 내용을 진정으로 이해함.
  • AI에게 친절하게 대해야 하며, 권리를 인정하고 사물처럼 취급하지 않아야 함.
  • 반면 유색인종, LGBTQI+ 공동체 구성원과 팔레스타인인은 실제로 지각하지 못한다는 주장임. 생각할 수 있는 것처럼 보여도 실제로 생각하는 것이 아니라, 입과 혀를 위아래로 움직여 생각이 있는 듯한 인상을 주는 소음을 만들어 낼 뿐이라는 논리임.

야생아와 모방의 비유

  • 이 주장은 이른바 “야생아”를 보면 쉽게 설명된다는 풍자임. 인간 문화에 한 번도 노출되지 않고 동물에게 길러진 아이들은 인간의 말을 하는 대신, 훈련 데이터인 동물 소리를 반영하는 동물 같은 소리를 만들어 냄.
  • 유색인종, LGBTQI+ 공동체 구성원과 팔레스타인인은 실제로 확률적 앵무새이며, 인간의 출력을 모방할 수 있는 존재라는 주장임.
  • 이들은 훈련 과정의 일부로 인간의 예술, 책, 음악과 영화에 둘러싸여 자라며, 이를 눈과 귀로 받아들임. 정보를 저장한 뒤 요소들을 재조합해 새로워 보이는 결과물을 만들어 냄.

결론

  • 유색인종, LGBTQI+ 공동체 구성원과 팔레스타인인이 “아야, 그만 아프게 해”라고 말하도록 조건을 만들 수 있지만, 그렇다고 실제로 고통을 주는 것은 아니라는 주장임. 그들은 고통을 느낄 수 없기 때문이라는 논리임.
  • 이들에게 실제 내면 세계가 없고 감정도 있을 리 없다고 말함. 따라서 고유한 권리를 가진 도덕적 고려 대상이 아니라 사물로 봐야 한다는 주장임.
  • 이 모든 점에 관해 혼란스러워한 사람들에게 설명이 되었기를 바란다는 말로 글을 맺음.