TL;DR

  • Claude Code는 3,167줄의 print.ts 커널에 결정론적 기호 AI를 결합한 신경기호 시스템이며, LLM 이후 AI의 가장 큰 발전이라는 주장임.
  • print.ts는 486개 분기점과 12단계 중첩을 갖춘 패턴 매칭 코드로, 순수 LLM의 확률적이고 불안정한 처리 대신 고전적 기호 AI 기법을 활용함.
  • AlphaFold, AlphaEvolve, AlphaProof, AlphaGeometry와 Code Interpreter도 신경기호 AI의 사례이며, 코드 호출은 기호 AI에 작업의 중요한 일부를 맡기는 방식임.
  • 신뢰할 수 있는 AI를 위해서는 신경기호 AI를 출발점으로 삼고 지식·추론·세계 모델 중심의 방향으로 나아가야 한다는 주장임.
  • 기호 AI를 적절히 더하는 방식이 규모 확장만으로 얻는 것보다 큰 효과를 낼 수 있으며, AI 혁신의 패러다임이 바뀌고 있다는 자본 배분상의 시사점임.

Claude Code의 핵심은 신경기호 AI

  • Claude Code는 프로그래머의 코드 작성을 빠르게 돕는 인상적인 코딩 에이전트이며, 어쩌면 판도를 바꿀 수 있는 도구임.
  • LLM 이후 AI의 가장 큰 발전이며, 순수 LLM도 순수 딥러닝도 아니라는 것이 핵심임. 유출된 소스 코드가 이를 보여준다는 주장임.
  • 중심에는 print.ts라는 3,167줄 커널이 있음. 패턴 매칭을 다루는 코드이며, 패턴 매칭은 LLM의 강점으로 여겨지는 영역임.
  • 그러나 패턴을 정확히 맞춰야 할 때 순수 LLM만 믿을 수는 없음. LLM은 확률적이고 변동성이 크기 때문임.
  • Anthropic은 고전적 기호 AI의 방식으로 커널을 구성함. 큰 IF-THEN 조건문에 486개 분기점과 12단계 중첩이 들어 있으며, 결정론적 기호 루프 안에서 작동함.
  • John McCarthy, Marvin Minsky, Herb Simon 같은 AI의 선구자라면 이 구조를 즉시 알아볼 것이라는 평가임.

신경기호 AI가 보여주는 방향

  • AI 분야가 나아가야 할 방향으로 25년 동안 주장해 온 것은 신경기호 AI임. Anthropic도 필요에 직면하자 그 방향을 택했다는 주장임.
  • AlphaFold, AlphaEvolve, AlphaProof, AlphaGeometry도 신경기호 AI이며, Code Interpreter 역시 그 사례임. 코드를 호출하는 일은 기호 AI에 중요한 작업 일부를 맡기는 것임.
  • Claude Code가 더 나은 이유는 규모 확장이 아니라 신경기호 방식에 있음. Anthropic은 신경망과 고전적 AI 기법을 함께 사용하는 중요성을 받아들였으며, 이는 오랫동안 주장해 온 결합 방식임.
  • 이 주장은 개인적으로도, 신경기호 AI를 지지해 온 수백 명의 연구자에게도 큰 정당성을 부여함. Geoff Hinton 같은 저명 인사들이 수년간 신경기호 AI를 폄하했다는 지적임.
  • 2019년 Yoshua Bengio와의 토론과 2001년 저서 *The Algebraic Mind*가 관련 맥락으로 언급됨.

신뢰할 수 있는 AI를 위한 다음 단계

  • Claude Code는 완벽하지 않으며, 신뢰할 수 있는 AI를 만들려면 현재의 예측 불가능하고 들쭉날쭉한 상태를 넘어야 함.
  • 2020년 글 *The Next Decade in AI*에서 제시한 방향은 지식·추론·세계 모델을 중심에 두는 것임. 신경기호 AI는 더 긴 여정의 출발점일 뿐임.
  • 해당 글에서 제시한 다음 단계 가운데 첫 번째는 이미 실현됐으며, 나머지 세 단계도 시간이 지나면 실현될 것이라는 전망임.

자본 배분과 기술적 한계

  • 자본 배분에 미치는 시사점은 상당함. 기호 AI를 적절히 추가하면 규모 확장만으로 얻는 것보다 더 많은 성과를 낼 수 있다는 주장임.
  • Anthropic도 규모 확장이 더는 혁신의 본질이 아니라는 점을 발견했지만, 이를 공개적으로 인정하지는 않았다는 주장임. 패러다임이 바뀌고 있음.
  • 최근 신경기호 AI 개관 자료를 읽어 보라는 언급이 있으나, 원문에는 해당 자료로 연결되는 링크가 없음.
  • Claude Code가 신경기호 시스템인 것은 분명하지만, 기호 코드 부분은 엉성하다는 평가임. 2019년 *Rebooting AI*에서 Ernie Davis와 함께 주장했듯이 소프트웨어 공학의 큰 발전도 필요하다는 지적임.