TL;DR

  • 지식은 참인 명제를 알아차리는 데 그치지 않고 설명과 검증을 요구하며, 그 과정은 인간의 믿음과 자기 이해를 전제로 함.
  • 주사위 결과를 맞힌 일이 지식이 아닌 인식론적 운일 수 있듯, 정확한 예측만으로는 지식을 입증할 수 없음.
  • 지식은 타인의 인증을 거치는 사회적 과정이며, 고립된 상황에서도 믿음을 형성하는 자아와 감정이 그 과정에 관여함.
  • 불투명하고 확률적인 인공지능(AI)은 생성 과정을 관찰하기 어렵고 모든 주장을 검증할 수도 없어, 전적인 의존은 신뢰성과 실용성의 문제를 낳음.
  • AI를 아이디어를 내는 도구로 활용할 수는 있지만, 무엇을 지식으로 인정할지는 인간이 판단해야 하며 배움과 호기심을 포기해서는 안 됨.

배움과 지식에 관한 질문

  • AI의 등장은 ‘안다는 것의 의미’뿐 아니라 지식을 추구하는 과정에서 인간이 얼마나 중요한지라는 질문도 다시 제기함.
  • 흐린 토요일 아침 ChatGPT에 계산기로 덧셈을 할 수 있는데도 왜 덧셈을 배워야 하는지 물었고, “아마 배울 필요가 없을지도 모른다”는 뜻밖에 단도직입적인 답변을 받음.
  • 답변은 덧셈을 기계적으로 아는 것과 수학적 모델을 갖는 것의 차이를 언급하면서도, 그 차이마저 점점 덜 중요해진다고 제시함. 이는 기계가 인간보다 더 견고한 세계 모델을 가질 수 있고, 인간이 자기 마음을 가꾸는 일을 멈춰야 한다는 생각으로 이어질 수 있음.
  • 코딩은 해결됐다는 프로그래머들의 주장, 수학은 끝났다는 학계의 견해, ‘기계의 낙원’에 대한 교황의 경고, AI 에이전트가 일자리를 빼앗을 것이라는 우려가 퍼지는 가운데, 핵심 질문은 지식이란 무엇인가임.
  • 여기서는 인식론의 여러 설명을 본격적으로 논박하기보다, 인공지능이 제기하는 위협과 관련한 지식의 관점을 제시함. 결론은 지식이 본질적으로 인간의 것이며 기계는 지식을 근사할 뿐이라는 주장임.

진실, 지식과 정당화

  • 스탠퍼드 철학 백과사전의 설명처럼 진실은 어떤 것을 입증할 수 있는지가 아니라 실제 세계가 어떠한지에 관한 것임. 인간이 세균의 존재를 몰랐던 시기에도 세균은 존재했음.
  • 무언가를 안다는 것은 진실에 ‘특정한 방식으로 접근’하는 일이며, 참일 가능성을 알아차리는 것만으로는 충분하지 않고 입증할 수 있어야 함.
  • 주사위를 굴리기 전에 여섯 사람에게 결과를 안다고 말하고, 네 개가 나온 뒤 그중 한 사람에게만 맞았다고 해도 실제로 결과를 알았다고 할 수 없음. 실험을 조작해 틀릴 수 없게 만든 것일 수도 있기 때문임.
  • 이는 인식론적 운의 문제임. 정확한 예측만으로 사람이나 시스템을 맹목적으로 신뢰할 수 없으며, 진실이 지식이 되려면 설명이 따라야 함.
  • 따라서 지식에는 정당화 요건이 따름. 진실이 보편적인 것과 달리 지식은 인증을 필요로 하므로 사회적이며, 최소 두 당사자가 관여하는 과정임.
  • 코페르니쿠스는 늦어도 1543년에는 지구가 태양 주위를 돈다는 사실을 알았지만, 그 생각이 집단적으로 받아들여져 지식으로 자리 잡기까지 여러 세대가 걸렸음. 그 전환에는 협력이 필요했음.

자아와 믿음의 형성

  • 코페르니쿠스가 무인도에 고립돼도 지식을 잃는 것은 아니며, 타인의 검증이 불가능하면 지식 자체를 얻을 수 없다는 뜻도 아님. 인간에게는 자아가 있기 때문임.
  • 혼자 있을 때도 무언가를 믿으려면 먼저 그것이 참이라고 자신을 설득해야 함. 진심으로 믿지 않는 것을 안다고 주장할 수 없으므로, 이는 지식 형성의 필수 전제임.
  • 믿음과 지식의 형성에는 욕망, 의도, 동기, 정체성 등 내면의 자아에 뿌리를 둔 요소가 관여함. 명제는 받아들여지기 전에 인간 감정의 범위를 거쳐야 하며, 그 명제 자체도 추상적인 의미에서 참이어야 함.
  • 자신을 설득한 뒤 다른 사람을 설득하는 과정이 지식에 필요하다면, 기계는 지식을 잘 흉내 낼 수는 있어도 진정으로 알 수 없다는 결론이 나옴.
  • 기계가 창발적 속성으로 자아를 발달시킬 수 있다는 반론도 가능함. 다만 이는 신경생물학, 심리학, 수학, 철학의 복잡한 논의를 불러오므로, 여기서는 현재 연구 상태를 고려해 기계에 실제 자아가 없다고 가정함.

신뢰성, 검증과 AI의 한계

  • 기계에 자아가 있는지와 무관하게, 지식이 참인 출력과 거짓인 출력의 충분한 비율을 만드는지가 중요하다는 실용적 관점도 있음. 답이 옳은지 검증할 수 있다면 도출 과정을 알 필요가 없다는 주장임.
  • 그러나 이 관점은 신뢰성 문제를 낳음. 앨빈 골드먼 등이 논의한 과정 신뢰주의는 지식이 형성되는 과정을 이해하면 같은 방법으로 얻은 다른 명제도 참일 것이라는 확신을 높일 수 있다고 봄.
  • 현미경은 작은 규모의 대상을 관찰하는 신뢰할 만한 도구임. 검증되지 않은 장치로 본 것보다 현미경으로 발견한 새로운 사실에 더 큰 신뢰를 두는 이유는 현미경의 신뢰성이 높기 때문임.
  • 신뢰성은 우연히 맞힌 결과와 관련된 철학적 문제뿐 아니라 지식을 실제로 쌓는 방식과도 연결됨. 시간과 자원에는 한계가 있어 모든 이론을 탐구할 수 없으므로, 믿음이 형성되는 수단과 방법을 판단해야 진전을 이룰 수 있음.
  • 미국 국립보건원(NIH)이 접수한 모든 연구 제안에 자금을 지원하거나 《뉴잉글랜드 의학 저널》이 모든 투고 논문을 철저히 검토해야 한다면, 진지한 가설을 탐구하기보다 방대한 건초더미에서 바늘을 찾는 데 더 많은 시간을 쓰게 됨.
  • 많은 AI 시스템은 생성 과정이 악명 높을 정도로 불투명함. AI가 이론을 어떻게 도출했는지 충분히 파악할 수 없다면, AI가 제시하는 모든 이론을 시험해야 한다는 점만으로도 과도한 의존을 경계할 이유가 됨.
  • 완전 자율형 기계 지능에는 일관성 문제도 있음. 추론 과정의 성찰적 이해가 꼭 필요하지 않다고 인정하더라도, 결과가 일관된다는 합리적 확신이 없으면 제안된 모든 이론을 시험해야 함.
  • 신뢰성은 방법에 대한 정성적 평가에 그치지 않고 기대를 형성하고 믿을 만한 비교를 가능하게 함. 성공 기록이 아무리 좋아도 확률적 변동성은 남음.
  • 따라서 의사결정 권한을 AI에 전적으로 넘기려면 인지 과정을 관찰할 수 있어야 하지만 현재는 그렇지 않거나, AI의 모든 주장을 철저히 시험해야 하지만 이는 불가능함.

인간의 판단과 배움의 미래

  • 인공지능 시스템과 인간의 지적 역량이 만나는 지점에는 실용적·철학적 난제가 함께 있음. 기계가 지식을 소유할 수 없다면 기계는 지식을 근사할 뿐이며, 소유할 수 있다고 해도 실제로 아는지를 판단하려면 인간이 세계를 충분히 이해해야 함. 그 수준의 이해를 갖췄다면 AI에 의존할 필요가 없음.
  • AI를 권위 있는 지식의 원천이 아니라 인간의 인식 역량을 높이는 도구로 활용하는 중간 지점도 있음. 이 관점에서 AI는 아이디어 시장의 한 경쟁자이며, 그 시장을 규제하는 주체는 오직 인간임.
  • 아이디어가 어디서 나왔는지는 중요하지 않으며, 사람이 그 아이디어를 검증하는지가 중요함. 알렉산더 플레밍은 우연히 페니실린을 발견했고, 언젠가 AI가 알츠하이머병 치료법에 기여할 수도 있음. 무엇을 지식으로 확정할지는 인간이 계속 이해하려는 관심을 유지하며 판단해야 함.
  • 인간은 지식을 보유하고 기계는 지식을 근사함. 미래에는 근사 가운데 무엇이 옳은지 판단할 호기심과 용기를 지닌 사람이 더 많이 필요함.
  • 권고는 수학을 배우고, 코드를 읽고, 호기심을 유지하는 것임. 배움을 포기하는 일은 존재를 포기하는 일임.

참고 문헌

  • 스탠퍼드 철학 백과사전의 ‘지식 분석’ 항목과 2026년 9월 26일 열람 기록.
  • 주사위 사례는 ‘볼티모어 주식중개인’의 유명한 비유를 단순화한 형태임.
  • 던컨 프리처드의 2005년 ‘인식론적 운’ 및 인터넷 철학 백과사전.
  • 스탠퍼드 철학 백과사전의 ‘지식 분석’ 항목 중 1.3절과 2026년 9월 26일 열람 기록.
  • 토머스 에디슨 주립대학교의 ‘자아와 정체성’ 항목 및 관련 심리학·철학 문헌.
  • 스탠퍼드 철학 백과사전의 ‘신뢰주의’ 항목과 2026년 9월 26일 열람 기록.