AI는 작동하는 기반 위에 덧붙여야 한다

글은 현재 AI가 만들어내는 긍정적 가치보다 부정적 가치가 더 크다고 주장하며, AI를 업무의 출발점으로 삼기보다 이미 작동하는 시스템 위에 보조 도구로 더하는 ‘AI-last’ 방식을 제안한다. 이는 AI를 쓰지 말자는 뜻이 아니라, AI가 잘하는 일에 활용하되 부정확성이나 비효율이 핵심 업무에 번지지 않게 하자는 주장이다.

글은 경제 전반이 AI로 큰 호황을 맞지 못했고, 소프트웨어 업계에서도 AI를 널리 도입한 뒤 새로 만들어진 소프트웨어의 품질이 낮으며 기존 제품도 나빠지는 사례가 있다고 본다. 다만 이는 글의 평가다. 글은 AI를 파는 기업의 수익은 별개로 두면서, AI를 도입한 기업이 도입하지 않았을 때보다 더 많은 돈을 벌었다는 증거는 없다고 주장한다.

이런 평가가 AI의 모든 활용이 무가치하다는 뜻은 아니라고 선을 긋는다. AI가 흥미롭거나 유용한 일을 해내고, 개인이나 기업이 순이익을 얻을 가능성도 인정한다. 다만 현재는 AI가 만들어내는 부정적 가치가 긍정적 가치보다 크다는 것이며, 이 상태가 필연적으로 계속되거나 AI의 본질적 한계 때문에 생기는 것도 아니라고 본다. 사람들이 잘못된 선택을 하고 있기 때문이라는 설명이다.

글은 AI가 탐색, 조사, 디버깅, 패턴 인식, 브레인스토밍처럼 정확한 답을 단정하기 어려운 일에는 유용하지만, 신뢰성·안정성·정밀성·성능·효율성이나 장기간 이어지는 맥락의 이해에는 약하다고 구분한다. 특히 소프트웨어나 조직처럼 다른 요소가 의존하는 기반에는 높은 정확성과 신뢰성이 필요하므로, AI를 기반으로 삼으면 오류가 그 위에 쌓이는 문제를 낳을 수 있다고 주장한다.

AI의 부정적 영향이 특히 커지는 영역으로는 사람 사이의 소통을 대신하는 활용을 든다. 기술적 소통은 오류가 적더라도 정보를 믿을 수 없게 만들 수 있으며, AI가 끼어들면 업무 효율이 크게 떨어진다는 것이 글의 견해다. ‘AI-first’가 AI 사용량 자체를 목표로 삼으면, 실제로 생산적인지 평가하거나 불필요한 활용을 걸러내기 어려워진다고도 지적한다.

‘AI-last’의 기본 원칙은 AI에 의존하지 않아도 작동하는 시스템을 먼저 만들고, 그 위에서 AI를 이용해 일을 빠르게 하는 것이다. 개인이 각자 업무에 AI를 쓸지 결정하고, AI를 활용한 결과물에도 그렇지 않은 결과물과 같은 기준을 적용한다. AI의 출력에 대한 책임은 이를 승인한 사람에게 있으며, AI 사용이 주변 사람에게 비용을 떠넘겨서는 안 된다고 제안한다. AI만을 위해 하는 일은 AI와 무관한 설득력 있는 이유가 없는 한 피하고, AI 없이는 아예 수행할 수 없는 절차는 고장 난 것으로 간주한다.

글은 AI를 기존 시스템 위에 보조 수단으로 더하면 도움 되는 때와 그렇지 않은 때를 구별하기 쉽다고 본다. 이미 업무에 능숙한 사람과 작동하는 절차를 갖춘 조직이 AI로 역량을 키우고 속도를 높일 때 가장 큰 가치를 얻는다는 주장이다. 인간의 역량을 AI로 대체하려는 방법론은 몇 가지 예외를 빼면 기존 방식보다 퇴보했다고 덧붙인다.