TL;DR

  • Claude와 ChatGPT 같은 대형 언어 모델(LLM)의 실존적 위험 논의와 별개로, 챗봇의 설계 자체가 사용자의 주의력과 인지 자원을 소모하며 규제나 안전장치만으로는 이 문제가 바뀌지 않음.
  • 챗봇 사용은 매번 의식적인 주의와 계획을 요구해 자동적이고 매끄러운 상호작용을 막으며, 업무 중 주변 환경과 동료에 대한 인식을 밀어냄.
  • 프롬프트를 입력하고 응답을 기다리는 시간과 대화 기록을 다시 찾는 과정이 생산성을 떨어뜨리고 정보 검색 피로를 유발함.
  • 챗봇 의존이 집중력과 창의력을 악화시킬 가능성이 매우 높으며, 프롬프트 사이에 다른 일을 하거나 야외에서 음성으로 대화하는 방식이 즉각적인 대안임.
  • 풋 페달, 신호등, 블루투스 스타일러스와 태블릿 같은 인터페이스로 챗봇이 인간의 주의 방식에 맞춰 작동하도록 설계할 수 있음.

전전두엽과 후뇌

  • 기술 업계 리더와 정치인들이 Claude와 ChatGPT 같은 대형 언어 모델(LLM)이 실존적 위험을 일으킬 가능성을 논의하는 가운데, 챗봇과 소통하는 방식에 관한 또 다른 중요한 논의가 필요함.
  • 챗봇은 설계상 피로를 유발하며, LLM의 가장 심각한 문제 중 일부는 챗봇이라는 설계에 내재함. 챗봇은 본질적으로 주의를 분산시키고 주의력을 소모하며 인지적 붕괴를 일으키기 쉬움.
  • 규제와 안전장치를 가장 잘 마련하더라도 이러한 문제가 바뀌지 않음. 인류가 조만간 멸망할 가능성은 낮지만, 챗봇 의존이 집중력과 창의력을 악화시킬 가능성은 매우 높음.
  • 챗봇보다 LLM을 활용하는 더 나은 대안이 있음. 먼저 챗봇이 생산성을 해치는 방식을 살펴보려면 최신 신경과학 연구 결과를 이해해야 함.
  • 뇌에는 세상과 상호작용하는 두 가지 넓은 작동 방식이 있음. 전뇌는 전전두엽 피질을, 후뇌는 소뇌와 기저핵을 가리킴.
  • 전등 스위치를 켜고 끄는 것처럼 어떤 행동을 충분히 반복하면 전전두엽 피질이 그 행동을 기저핵에 넘기고, 기저핵은 의식적인 주의 없이 행동을 수행함.
  • 후뇌는 대화를 나누면서 도심 교통 속에서 운전할 수 있게 하는 체계임. 소뇌와 기저핵이라는 뇌 뒤쪽과 아래쪽의 오래된 구조에 자리한 절차적·신체화된 지식임.
  • 자동차 운전이나 자전거 타기를 배우면 이를 잊지 않으며, 뇌가 근육 기억을 익히기 때문에 거의 모든 자동차와 어떤 자전거든 탈 수 있음.
  • 반면 챗봇은 진화적으로 더 젊고 덜 발달한 기관인 전뇌를 사용하게 하며, 전뇌가 작동하려면 훨씬 많은 주의와 집중력이 필요함.
  • 챗봇과 상호작용할 때마다 사용자는 화면을 보고, 항목을 찾고, 확인하고, 행동해야 함. 이 과정은 전전두엽 피질을 계속 관여시켜 기저핵으로 넘겨지지 않게 함.
  • 따라서 챗봇 사용은 자동적이고 매끄럽거나 끊김 없는 느낌을 주지 않음. 의식적 주의, 계획, 의사결정을 담당하는 전뇌와 전전두엽 피질을 온전히 사용해야 함.
  • 후뇌를 사용할 때는 여러 신체 감각을 받아들이는 데 능숙하므로 쉽게 여러 일을 동시에 처리할 수 있음. 자동차에서 라디오 다이얼을 바꾸고, 페달을 밟고, 백미러를 흘끗 볼 수 있음.
  • 그러나 정신적으로 여러 일을 동시에 처리할 수는 없으며, 그렇게 하려 하면 답답한 상황에 빠질 수 있음.
  • 터치스크린을 사용하면서 운전하는 일이 위험한 이유도 여기에 있음. 터치스크린이 전뇌의 주의를 전면으로 끌어당겨 주변 환경을 감지하는 능력이 약해짐.

전뇌와 챗봇

  • 자동차 사고를 제외하더라도, 업무 환경에서 업무를 위해 챗봇을 사용하는 일은 운전 중 문자 메시지를 보내는 것과 같음. 화면 속 가상의 업무 동료와 상호작용하는 동안 주변 환경과 동료에 대한 인식이 배경으로 밀려남.
  • 프롬프트를 입력할 때는 하던 일을 멈추고 LLM 시스템을 불러낸 뒤, 시스템의 확인을 기다리고, 올바른 문법으로 요청을 말하거나 입력하고, 시스템이 이해하기를 바라며 다시 응답을 기다리는 경향이 있음.
  • AI의 생산성 향상을 계산할 때 몇 분에서 30분 정도 걸리기도 하는 대기 시간을 거의 반영하지 않음. 그 결과 한 주나 한 달 동안 사람이 챗봇의 다음 단계 진행이나 입력창의 정보 확인을 기다리는 시간이 누적되어 여러 시간이 됨.
  • 여기에 프롬프트를 입력하려고 천천히 말하거나 모든 단어를 또박또박 발음하는 데 드는 추가 시간도 더해짐. 마치 아이나 반려동물에게 말하거나, 기껏해야 통역사를 통해 소통하는 듯한 방식임.

AI 사용과 정보 검색 피로

  • 프롬프트 작성은 문제의 한 부분임. 챗봇이 만들어 준 내용을 다시 참고하고 대화 기록을 검색할 때도 피로가 생기며, 이는 공책의 페이지를 실제로 넘기며 찾는 일과는 다른 방식으로 뇌에 부담을 줌.
  • 무언가를 쓸 때는 손을 사용해 초안을 작성함.
  • 나중에 그 내용을 떠올릴 때는 공책이라는 물리적 소재 자체도 무엇을 썼는지, 어디에 적혀 있는지 기억하는 데 도움이 됨.
  • 챗봇과의 상호작용은 이메일처럼 느껴짐. 모든 내용이 똑같아 보이고, 다시 찾으려면 단어를 기억해야 하며, 대학 시절 10년 전 글을 쓰며 표지가 닳은 종이 일기장과는 전혀 다름.
  • 당장 적용할 수 있는 실용적인 해결책은 프롬프트 사이에 다른 일을 하는 습관을 들이는 것임. 또는 야외에서 신선한 공기를 쐬며 인지력을 높이는 동시에 LLM과 음성으로 대화하는 방법이 더 나을 수 있음.
  • 그러나 챗봇을 업무 동료로 함께 사용하려면 생산성 향상을 위한 시스템 차원의 설계 변화가 필요함.

더 나은 챗봇을 위한 후뇌 중심 설계

  • 대화나 팟캐스트 청취 등 다른 일을 병행하면서 자동차를 운전하는 복잡하고 위험한 작업을 수행할 수 있듯이, 챗봇도 더 나은 방식으로 구현할 수 있음. 여기서 ‘더 나은’ 방식이란 챗봇이 아닌 인간의 주의 방식에 맞추는 설계임.
  • 다음과 같은 하드웨어 인터페이스를 사고 실험으로 생각해 볼 수 있음.
  • LLM 풋 페달: 키보드나 마이크 입력 외부의 동작을 요구하는 것만으로도 사용자의 주변 환경으로 주의를 옮기고 토큰을 극대화하는 몰입 상태에서 벗어나게 할 수 있음. 챗봇에 주의와 키보드를 계속 쏟지 않도록 풋 페달을 밟아 프롬프트 질의를 시작하고, 브레이크처럼 다시 밟아 처리 속도를 늦추거나 완전히 중단하는 방식임.
  • 컬러 신호등: 사용자 책상에 놓아 챗봇에서 주의를 다른 곳으로 옮기고 필요할 때만 챗봇과 상호작용하도록 돕는 장치임. LLM이 처리 중일 때는 주황색, 준비되면 녹색, 프롬프트에 주의가 필요하면 빨간색으로 표시함. 화면을 계속 보는 대신 녹색 불이 켜질 때까지 기다렸다가 인터페이스로 돌아갈 수 있음.
  • 블루투스 연결 물리 스타일러스와 태블릿을 통한 프롬프트 입력: 연구 결과에 따르면 손으로 직접 쓰는 방식은 키보드 입력보다 기억과 창작에 더 효과적임. 따라서 블루투스로 연결된 스타일러스와 태블릿, 또는 프롬프트가 공책에 입력되는 스마트 펜이 있는 공책을 활용할 수 있음.
  • 이 ‘마법의 공책’은 프린터처럼 내용을 실제 페이지에 채워 넣으며, 사용자는 종이에 내용을 참고하고, 지우고, 수정하면서 주고받을 수 있고, 작성한 종이를 가지고 다닐 수 있음.
  • 이는 사고 실험이지만 앞으로 몇 년 안에 이런 기기가 등장할 것이라는 느낌이 있음.
  • 미래에 챗봇과 함께 살아가야 할 수도 있지만, 챗봇이 실제 인간의 뇌 작동 방식에 맞추도록 하면 삶의 다른 기술처럼 필요할 때 유용하게 쓸 수 있음. 다만 후뇌가 필요로 하는 것을 제공하는 기술이 되지는 않음.