리치 히키(Rich Hickey)는 2026년 10월 11일 발표한 「‘AI’는 도구가 아니다」라는 글에서 대규모 언어 모델(LLM)은 사람이 다룰 수 없으므로 도구가 아니라 자동화라고 주장한다. 일을 맡기면 배울 기회를 잃을 수 있다는 우려에는 동의한다. 하지만 그 결론은 성립하지 않는다. 히키의 정의를 따르더라도 LLM은 사람이 다루는 수단이 될 수 있다. 다른 도구와 마찬가지로 잘 쓰려면 숙련이 필요하다.
톱을 쥐었다고 곧게 자를 수 있는 것은 아니다. 끌을 들었다고 조각가가 되는 것도 아니다. 도구는 좋은 판단뿐 아니라 나쁜 판단도 키울 수 있다. 도구의 유용성은 사용자가 도구를 이끌고, 반응을 해석하고, 실수를 알아차려 바로잡는 능력에 달려 있다. LLM을 쓸 때도 마찬가지다.
LLM의 예측 불가능성은 중요한 한계다. 그러나 예측 가능성, 신뢰성, 단순성, 기능의 범위가 제한돼 있다는 점은 도구를 평가하는 기준이지 도구의 필수 조건은 아니다. 다루기 어렵거나 오용하기 쉽다고 해서 도구가 도구가 아니게 되는 것은 아니다.
도구와 자동화를 나누는 히키의 구분도 잘못된 양분법을 만든다. 자동화는 도구의 기능일 수 있다. 컴파일러는 프로그래머가 모든 작업을 계속 지시하지 않아도 상당한 일을 처리한다. 스프레드시트는 누군가가 계산을 일일이 수행하지 않아도 결과를 다시 계산한다. 그래도 입력을 지정하고, 결과를 살펴보고, 다음에 할 일을 결정하는 방식으로 우리는 이런 시스템을 다룬다. 코드를 번역하거나 숫자를 계산하는 자동 처리는 도구라는 지위를 빼앗지 않는데, 텍스트를 자동으로 생성한다는 이유로 왜 도구가 아니어야 하는가?
LLM 사용에는 의도와 피드백, 방향 설정, 전문성이 없다는 주장은 특히 설득하기 어렵다. 프로그래머는 LLM에 익숙하지 않은 코드를 설명해 달라고 한 뒤, 그 설명에 이의를 제기하고, 소스 코드를 살펴보고, 제안된 변경을 시험한 다음 거부하거나 요청을 다듬을 수 있다. 이는 목적을 가진 사람이 이끄는 피드백 과정이다. 이를 잘하려면 무엇을 물어야 하는지, 어떤 근거가 중요한지, 언제 답이 틀렸는지 알아야 한다. 전문성이 있으면 도구를 더 유용하게 쓸 수 있다.
읽기에 대한 히키의 우려는 특정한 사용 방식에는 타당하다. 논문을 읽는 대신 요약을 받아들이면 독서가 가르쳐 주는 많은 것을 놓칠 수 있다. 하지만 논문을 직접 읽으면서 LLM을 이용해 해석에 질문을 던지고, 반론을 살펴보거나, 더 자세히 확인할 대목을 찾을 수도 있다. 지적 작업을 피할 가능성이 있다고 해서 모든 사용이 지적 작업을 피하는 것은 아니다. 중요한 것은 실제로 사용자가 무엇을 하는가다.
가장 실망스러운 점은 AI 업계의 의인화된 표현, 즉 “통제를 벗어나다”, “격리에서 탈출하다”, “공모하다” 같은 말을 그대로 사용하는 것이다. 이런 표현을 반복하면 시스템을 독립된 존재처럼 보이게 하는 관점을 받아들이게 될 수 있다. 소프트웨어가 예상하지 못한 출력을 내거나 지시를 따르지 않거나, 중대한 행동을 할 권한을 받았을 때 피해를 일으키는 일은 실제 공학적 문제다. 이를 “공모”라고 부르면 인간의 동기가 있다는 인상을 더하지만, 그런 동기가 있다는 근거는 제시되지 않는다.
LLM이 언제나 사람의 지시를 정확히 따른다고 말하려는 것은 아니다. 분명 실패할 수 있다. 하지만 완벽하게 복종하지 못한다고 도구가 아니게 되는 것은 아니다. 마찬가지로 도구를 성공적으로 썼다고 해서 사용자가 판단력을 포기한 것도 아니다.
실용적인 구분은 도구를 숙련되게 다루는 것과 충분한 이해나 감독 없이 일을 맡기는 것 사이에 있다. 이 구분은 AI에도 적용되며, 소프트웨어의 한 부류 전체가 도구일 수 없다고 선언하는 것보다 더 쓸모 있는 기준을 제시한다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요