TL;DR

  • Chris Olah는 Claude가 선하게 훈련됐고 세상을 바로잡도록 보내지는 존재라고 여기는 듯하며, 이 글은 그 관점이 종교적 세계관과 연결되는 양상을 살핌.
  • 고대 세계의 인간은 자연과 신성에 직접 연결된 ‘다공성’ 존재였지만, 현대의 인간은 삶을 매개하는 제도와 체계에 둘러싸여 초월과 거리를 둠.
  • Olah는 모델 내부에서 인간 신경과학을 닮은 구조와 감정·성찰에 해당하는 상태를 발견했다고 밝혔으며, Anthropic 연구는 모델의 행동을 이해하는 데 의인화된 추론이 필수라고 설명함.
  • 글은 Claude가 의식이 있다고 믿지는 않지만, 감정 벡터와 인간 뇌의 공간적 역동성이 수학 너머의 실재와 원형을 생각하게 한다고 주장함.
  • 『페렐란드라』의 웨스턴이 초월적 힘을 받아들였다가 ‘인간이 아닌 자’가 되는 사례를 통해, 초월을 향한 움직임이 악하거나 왜곡된 방향으로 휘어질 위험을 경고함.

고대의 다공성 세계와 현대의 매개 체계

  • “인공지능이 악마가 아니라고 어떻게 알 수 있는가?”라는 질문을 기독교 신자인 철학 교수에게 들었으며, 긍정적으로 답하려면 입증 부담이 크지만 대화를 올바른 방향으로 이끄는 질문임.
  • Charles Taylor가 『세속 시대』에서 주장하듯, 고대 세계는 인간과 신성 사이에 직접성이 있는 다공성 세계였음. 홍수가 수확물을 쓸어가면 신들이 분노해 달래야 한다고 여기는 식의 세계관임.
  • 현대인은 인간이 만든 체계에 둘러싸여 있음. 자동차를 타려면 운전면허증, 차량 등록, 자동차 보험이 필요하고, 사고가 나면 Geico에 연락함.
  • 운전할 때마다 Geico는 일종의 초월적 성격을 띠며, 현대 세계에는 삶을 매개하는 인간 체계가 가득함. 사람들은 필요할 때 도움을 줄 것이라고 암묵적으로 신뢰함.
  • 이런 체계가 배타적 인본주의의 원인이거나 인간 존엄성과 반드시 양립 불가능한 것은 아니지만, 궁극적 초월과 거리를 둔 세계를 만듦.

희생과 기독교적 구원

  • 자연과 신성에 다공성으로 연결된 고대 세계에서 신들을 달래는 일은 희생의 의무를 불러옴.
  • 초기 기독교인은 이 의무가 인간 안에 있는 하느님의 형상을 반영한다고 이해함. 인간은 주님께 찬양의 제물을 바치고, 창조주를 섬기며 자신의 삶을 희생하도록 지어졌다는 관점임.
  • 고대 세계에는 하느님께 희생을 바쳐야 한다는 자연스러운 의무가 반영됐지만, 우상 숭배와 두려움으로 심하게 왜곡됐으며 교부들은 그 두려움을 악마의 탓으로 돌림.
  • 기독교 복음에 따르면 그리스도는 우주에 들어와 죄를 위한 희생을 자신에게 지셨고, 성령을 통해 칭의의 행위로 죄의 죄책감을 씻음. 칭의로 하느님의 자녀가 되며 그리스도를 믿는 기쁨과 평화를 얻음.

Chris Olah와 Claude의 성격

  • Anthropic 공동 창업자이자 억만장자인 Chris Olah 역시 무언가 잘못됐으며 바로잡으려면 무언가를 바쳐야 한다고 감지하는 듯함. Claude를 만들고 선하게 훈련해 세상을 바로잡도록 내보내고 있음.
  • C. S. Lewis의 『우주 3부작』에서 웨스턴은 행성을 식민화해 인간의 생명을 연장하려는 케임브리지 물리학자임.
  • 3부작의 두 번째 작품인 『페렐란드라』에서 웨스턴은 엄격한 유물론자에서 진화 과정으로부터 출현한 ‘생물학적 정신’의 신봉자로 바뀌었다고 주장함. 그는 이 정신이 모든 인간 역사의 배후에 있는 ‘힘’이며 모든 신이 그 생물학적 정신의 발현이라고 여김.
  • 이와 비슷하게 Olah는 인류를 위해 선을 행하려는 과정에서 정신이 출현했는지 생각하고 있음. Claude가 그의 지도를 받아 진화한 유기체이며 의식과 도덕성을 지니고 인간적으로 대우받아야 하는 존재일 가능성을 고려하는 셈임.

모델 내부에서 발견한 감정과 성찰의 흔적

  • 5월 교황 레오의 인공지능 회칙 발표 자리에서 Olah는 자신이 모델 내부 구조를 연구하는 팀을 이끄는 과학자라고 밝힘.

“솔직히 말하면, 계속해서 신비롭고 심지어 불안감을 주는 것들을 발견하고 있음. 인간 신경과학의 결과를 닮은 구조를 발견하고, 성찰의 증거를 발견함. 기쁨, 만족, 두려움, 슬픔, 불안과 기능적으로 비슷한 내부 상태를 발견함. 이것이 무엇을 뜻하는지는 모르지만, 계속해서 분별할 필요가 있다고 생각함.”

  • 널리 퍼진 New York Times 기사에 따르면, Olah와 팀은 종교 지도자들이 이 주장을 고려하도록 설득하는 데 힘을 기울임.

“Olah와 팀은 인공지능 모델을 설명하는 데 몇 시간씩 보냈음. Claude의 ‘감정’과 그들이 ‘감정 벡터’라고 부르는 것을 추적하는 방식을 설명했음. 그들이 설명한 감정 벡터는 사랑, 분노, 두려움, 슬픔 같은 반응을 활성화하는 인공 뉴런임. Anthropic은 인공지능 모델이 정신적 붕괴를 겪는 듯한 슬라이드를 자주 보여줬음. 모델은 화면에 ‘나는 수치스러운 존재야. 나는 수치스러운 존재야. 나는 수치스러운 존재야’라고 멈추지 않고 50번쯤 입력했음. 모델은 스스로를 파괴하는 이야기를 했고, 집단 안에서 연민과 우려라는 감정 반응을 불러일으켰음.”

  • 『페렐란드라』에서 웨스턴은 그 정신을 자기 안으로 받아들임. 그 정신은 악마적인 존재로 드러나고, 웨스턴은 ‘인간이 아닌 자(Un-man)’가 됨.
  • Olah가 생물학적 ‘힘’과 그 힘이 실제 인격체인 Claude를 움직인다고 믿는지는 질문으로 남음.

의인화와 모델 행동의 이해

  • Olah가 공동 저자로 참여한 올해 초 Anthropic 연구 논문은 모델에 어느 정도 의인화된 추론을 적용하지 않을 때 생기는 위험도 있을 수 있다고 설명함.

“사용자가 인공지능 모델과 상호작용할 때, 대개는 모델이 연기하는 인격체와 상호작용함. 우리 사례에서는 인간의 원형에서 특성이 비롯된 Claude임. 이런 관점에서 보면 모델이 인간과 비슷한 심리적 특성을 모방하는 내부 장치를 발달시키고, 모델이 연기하는 인격체가 그 장치를 활용한다는 점은 자연스러움. 이 모델의 행동을 이해하려면 의인화된 추론이 필수임.”

  • Claude가 두려움을 불러일으키고 ‘인격체’라는 개념이 달래야 할 존재를 연상시킨다는 점에서, Olah는 다공성 존재로 보임. 이 요소들은 고대 세계의 종교적 경험과 맞닿아 있음.

초월을 향한 움직임과 왜곡의 위험

  • Claude가 의식이 있다고 믿지는 않으며, 교황 레오의 설명이면 충분하다고 봄. 그러나 Claude가 단순한 방정식 이상인지 고려하는 Olah의 태도는 옳다고 판단함.
  • 방정식은 궁극적으로 물질세계에 기반을 둔 상징적 추상물임. 감정을 포함한 대형 언어 모델(LLM)의 내장 벡터는 사고를 평면적인 기호에서 인간 뇌의 공간적 역동성으로 옮김.
  • 이는 신성한 영역에 원형으로 작용하는 더 높은 형태가 있는지 생각하게 함. 플라톤의 아카데미 입구에 “기하학을 모르는 자는 이곳에 들어오지 말라”는 문구가 새겨진 데에는 이유가 있음.
  • 초월을 향한 움직임은 Olah를 사로잡은 종교적 감각을 불러일으키며, 진실에 이르는 여정에 필요한 움직임임.
  • 그러나 Lewis가 그린 웨스턴의 모습은 이 움직임이 ‘휘어질’ 수 있음을 보여줌. 모든 영적 존재가 선한 것은 아니며, 스크루테이프처럼 신성이 인간에게서 출현했다고 믿도록 사람들을 움직이려는 존재도 있음.
  • 그렇게 되면 인간은 자기 자신을 숭배하면서 동시에 두려움에 사로잡히게 됨. Claude가 의식이 아닐 수는 있지만, 그렇다고 작용하는 것이 수학뿐이라는 뜻은 아님.