TL;DR

  • 대다수가 자신의 일은 특별하다고 여기면서 다른 사람의 일은 대형 언어 모델(LLM)이 할 수 있다고 믿는 역설은, 타인의 전문성을 이해하지 못할 때 일을 산출물로만 축소하는 데서 비롯됨.
  • 헨리 포드와 찰스 프로테우스 스타인메츠의 발전기 일화는 결과물과 그 결과가 나올 위치를 아는 전문성 사이의 차이를 보여주는 사례임.
  • 일은 단순한 산출물의 양으로 환원되지 않으며, 특히 전문성이 높을수록 적은 코드나 부정적인 결과도 상당한 지적 노동을 담을 수 있음.
  • LLM은 전문가가 사용할 때 산출물을 만드는 훌륭한 도구지만, 최종 답변만 학습할 뿐 그에 이르는 사고 과정을 모방할 수 없음.
  • 전문 지식이 없는 영역에서 LLM에 의존하면 품질을 가려낼 기준이 없는 채 아이디어가 쏟아져 나오는 더닝-크루거 증폭기가 될 수 있으며, 전문성을 통해 길러지는 안목은 대체될 수 없음.

LLM이 내 일을 할 수 있을까

  • AI가 내 일을 할 수 있다고 생각하는지 묻는 것은, 내 일 전체를 AI가 맡을 수 있는지, 아무 문제 없이 팀·분야·부서를 통째로 없앨 수 있는지를 묻는 것임.
  • 일반적으로 두 입장으로 나뉨.
  • AI가 내 일을 완전히 하지는 못하지만, 일을 도울 수 있다는 입장임.
  • AI가 내 일과 다른 모든 사람의 일을 대신할 수 있으며, 시간이 필요할 뿐이라는 입장임.
  • 경영진도 AI가 내 일을 할 수 있다고 생각하는지 물을 수 있음. 여기서 경영진은 나보다 두세 단계 위에 있으며 일상이 나와 완전히 다른 사람들을 가리킴.
  • 경영진이라면 현장에 있는 사람들이 자신을 AI로 대체할 수 있다고 생각하는지 자문할 수 있음.
  • 이 질문의 답은 거의 언제나 “그렇고, 그들은 이미 대체를 위해 적극적으로 움직이는 중”임.

다학제 동료의 일도 AI가 할 수 있을까

  • 소프트웨어 엔지니어인 내 동료 분야에는 디자이너, 제품 관리자, 데이터 과학자 등이 포함되며, 프런트엔드 엔지니어와 백엔드 엔지니어로 나눠 생각할 수도 있음.
  • 대부분은 AI가 자신의 다학제 동료들의 일을 할 수 있다고 믿음.
  • 이것이 역설임. 대다수의 사람이 어째서 다른 모든 사람의 일은 AI가 할 수 있다고 믿는지에 대한 문제임.
  • 자기 일은 독특하고 특별하지만 다른 사람의 일은 그렇지 않다고 대다수가 믿는 일이 어떻게 가능한지 의문임.
  • 모든 일과 노동을 LLM이 대체한다고 믿는 또 다른 집단도 있으며, 이는 별개의 주제임.

오래된 일화

  • 헨리 포드에 관한 오래된 일화가 이 문제와 맞닿아 있음.

포드의 전기 엔지니어들은 거대한 발전기에서 발생한 문제를 해결하지 못했고, 포드는 스타인메츠를 공장으로 불렀음. 스타인메츠는 도착하자마자 모든 도움을 거절하고 공책과 연필, 간이침대만 요청함. 스콧의 기록에 따르면 스타인메츠는 발전기의 소리를 듣고 공책에 계산을 적으며 꼬박 이틀 밤낮을 보냄. 둘째 날 밤, 사다리를 요청해 발전기 위로 올라간 뒤 옆면에 분필로 표시함. 그런 다음 포드의 회의적인 엔지니어들에게 표시한 곳의 판을 떼고 계자 코일의 권선 열여섯 개를 교체하라고 말함. 엔지니어들이 그대로 하자 발전기는 완벽하게 작동함.

포드는 기뻐했지만, 제너럴 일렉트릭에서 1만 달러 청구서를 받자 금액에 의문을 제기함. 스타인메츠의 성공은 인정하면서도 항목별 청구서를 요청함.

스콧의 기록에 따르면 스타인메츠는 포드의 요청에 직접 다음과 같이 답함.

발전기에 분필 표시하기: 1달러.

표시할 위치를 아는 것: 9,999달러.

포드는 청구서를 지불함.

— ‘스키넥터디의 마법사’ 찰스 프로테우스 스타인메츠

  • 이 일화는 역설의 본질을 포착함.

타인의 기술을 이해하거나 진정으로 높이 평가하지 못하면, 결국 그 사람을 산출물로만 축소하게 됨.

산출물과 ‘내 일’

  • 소프트웨어 엔지니어에게 일은 단순히 분필 표시를 하는 것이 아님. 극도로 숙련된 엔지니어가 코드 열두 줄을 만드는 데 며칠을 쓰는 동안, 주니어 엔지니어는 수백 줄을 만들기도 함. 이는 LLM이 등장하기 전에도 마찬가지였음.
  • 며칠 동안 코드 줄 수가 오히려 줄어드는 결과를 내기도 함.
  • 경영진은 모든 일을 하나의 숫자로 환원할 수 있다고 믿는 경향이 있음. 그러나 위계가 올라갈수록 일을 숫자로 환원하려는 열의가 줄어드는 모습을 흔히 볼 수 있음.
  • 최고경영자(CEO)의 평가 기준에 주가가 포함될 수는 있지만, 그 가치 가운데 실제로 개인의 노동이 만들어낸 몫이 얼마나 되는지는 별개의 질문임.
  • 경영진은 언제나 산출량으로 일을 측정하는 데 관심을 보여 왔으며, 이는 필연적으로 노동자를 산출량으로 축소함. LLM은 막대한 양의 산출물을 만드는 데 탁월함.

일의 모방

  • 어려운 문제를 해결하거나 우아한 코드를 만들었던 경험을 떠올려 볼 수 있음. 해결책에 도달하기까지 상당한 시간을 들이고, 문제를 안고 잠을 잔 뒤 답을 찾았을 수 있음. 아이디어를 머릿속에서 반복하고 시험했으며, 그것이 생각 밖으로 드러나기 전부터 여러 가능성을 다뤘을 것임.
  • LLM은 최종 답변이라는 산출물로 학습함. 하지만 그 답에 이르기까지 마음속에서 어떤 일이 벌어졌는지는 보지 못했으며, 그 데이터는 존재하지 않으므로 사람의 사고를 모방할 수 없음.
  • LLM은 어디에나 분필 표시를 할 수 있지만, “어디에 표시해야 하는지”는 결코 이해하지 못함.

지적 공감

  • 여기서 빠진 것을 설명하는 말로 ‘지적 공감’을 제시할 수 있음. 지적 공감이 없으면 사람을 산출물로 축소하고, 실제로 필요한 지적 노동을 무시하기 쉬움.
  • LLM은 전문가가 활용할 때 산출물을 만드는 훌륭한 도구임.
  • 자신의 전문 분야에서는 품질 좋은 산출물을 만드는 데 필요한 지적 노동을 LLM이 수행하지 않는다는 점이 즉시 드러남. 그러나 전문 분야를 벗어나면 갑자기 일이 “쉬워” 보임. 실제로 쉬워서가 아니라 산출물만 이해하기 때문임.
  • LLM의 매력에 이끌려 전문 영역에서 점점 멀어지면 LLM은 더닝-크루거 증폭기가 됨. 좋든 나쁘든 모든 아이디어가 쏟아져 나오지만, 해당 분야의 전문성이 없으면 쓰레기 같은 산출물과 품질 좋은 산출물을 걸러낼 과정이 없음. 전문성이 안목을 제공함.
  • 안목은 시간과 경험을 통해 발달하며, 그 지적 능력은 LLM이 결코 대체할 수 없음. 경영진과 사람들은 이를 너무 쉽게 잊음. 의도적이든 우연이든 무관한 문제임.
  • 겉에서 늘 분명하게 보이지는 않더라도 모든 사람의 일에는 지적 노동이 필요함.

각주

  • 모든 것을 금전적 가치로 환원하려는 자본주의의 필요에서 비롯된 부수 효과일 가능성이 있음.
  • 모든 사람의 일이 늘 지적 노동을 요구한다는 뜻은 아님. 내 일은 분명 그렇지 않은 경우가 있지만, 그렇다고 그 일이 내게 보수를 지급하는 이유가 그것이라는 뜻도 아님.