AI보다 일에 맞는 도구를 먼저 골라야 한다

AI에 관한 글을 언젠가는 써야 한다고 생각했지만 계속 미뤄 왔다. AI 열풍이 잦아들 기미가 보이지 않아 더 미룰 수 없다고 느꼈다. AI 분야는 전문가 시스템과 스팸 분류에 쓰이는 베이지안 분류 시스템부터 대규모 언어 모델(LLM)까지 반세기가 넘는 역사를 지녔다. 여기서는 지금의 과열과 거품 경제를 이끄는 LLM에 초점을 맞춘다.

지금이 거품이라는 점은 분명하다고 본다. 에드 지트론(Ed Zitron)의 오픈AI 재무 상황에 대한 상세한 분석을 보면 지속 가능한 사업이 없다는 것이 드러난다는 주장이다. 마이크로소프트도 시카고부터 자카르타까지 데이터센터 건설 계획을 축소하는 듯하다. 기대가 현실과 부딪히면서 AI 프로젝트의 실패율이 높아지고, 초기 약속을 되돌린 유명 사례도 나왔다. 클라르나의 사례에서는 AI로 대체할 수 있다고 여겼던 노동자를 다시 불러들였다.

그런데도 열풍은 이어진다. LLM 기반 도구가 지금 약속을 지키지 못해도 몇 차례 개선만 거치면 가능해질 거라는 기대가 퍼져 있다. 도구를 시연하면서 “아직 잘 작동하지 않지만 조금 더 학습하면 나아질 것”이라고 말하는 모습을 자주 본다. 그런 기대를 뒷받침할 근거는 제시되지 않는다.

전문 지식이 없는 사람도 쓸 수 있는 인터페이스를 만들기엔 너무 복잡한 시스템이 있다는 이야기를 들은 적도 있다. 그런데 같은 사람이 시스템 문서를 LLM에 학습시키기만 하면 LLM이 그 시스템을 이해하고 대화형 인터페이스를 제공할 수 있으리라 기대했다. 이런 생각은 열풍이 상식을 압도한 결과로밖에 설명하기 어렵다.

생성형 AI 도구를 써 본 경험

직접 사용하거나 접한 생성형 AI 도구의 결과는 처참한 수준부터 그럭저럭 괜찮은 수준까지 다양했다. 한 동료가 고객 미팅 메모를 바탕으로 추천 문서를 작성해 달라고 제미나이에 요청한 적이 있다. 결과물은 전문 분야에 맞춘 조언이 아니라 누구나 할 법한 기본적인 제안 몇 쪽이었다. 결국 동료를 설득해 AI 결과물을 버리고 처음부터 다시 작성했다.

다른 사례는 더 나았다. 기존 RHEL 커널에서 해결한 내용을 학습한 AI 모델로 오래된 RHEL 커널에 패치를 백포트할 때 발생하는 충돌을 처리하는 도구를 시험했다. 이 도구는 유용하다. 다만 그 이유는 AI의 충돌 해결 기능뿐 아니라 백포트 과정에 관한 지식이 도구 자체에 많이 들어 있어, 번거로운 작업을 자동화하기 때문이라고 본다. AI 모델이 제안한 충돌 해결 방법은 단순한 경우에는 괜찮았지만, 복잡한 경우에는 부분적으로만 맞았다. 그래도 쓸모는 있다. 다만 혁명적인 변화라기보다 일반적인 점진적 개선에 가깝다.

비용과 피해도 따져야 한다

도구의 효과를 판단할 때는 이점뿐 아니라 비용도 살펴야 한다. 생성형 AI에는 막대한 금전적 비용과 환경 비용이 든다. 이 비용만으로도 도입을 포기할 이유가 된다고 본다. 여기에 개인과 사회에 실제로 발생하는 피해도 있다.

우려하는 것은 AI가 의식을 얻어 인류를 파괴한다는 식의 이야기가 아니다. 챗봇이 인간관계를 망가뜨리는 일이나 이미지와 영상이 믿을 만한 정보원이 되기 어려워지는 일처럼 지금 일어나는 피해다. AI로 대체됐다가 실제로는 없어서는 안 될 존재가 아니었다는 사실이 드러난 뒤 불안정한 계약직이나 임시직으로 다시 고용되는 노동자도 있다. 앞서 언급한 클라르나 사례가 그 예다. 모델 학습에 드는 숨겨진 노동 비용, AI를 여러 곳에 연결하면서 생기는 보안 위험, 오픈소스 프로젝트가 받는 허위 보안 보고서도 문제다. 모두가 의존하게 되는 모델을 소수의 거대 기업이 소유하면서 기술 권력이 더 집중되는 점도 우려된다.

AI 모델에 생각을 맡기면 시간이 흐르면서 능력이 떨어질 수 있다는 증거도 일부 있다. 관련 과제를 AI에 맡긴 뒤 다시 직접 수행할 때도 그 영향이 이어진다는 연구가 있다. 비슷한 문제를 지적한 사람들도 있으며, 생성형 AI를 디지털 코카인에 빗대기도 한다.

어떤 도구가 일에 맞는지 물어야 한다

이런 큰 피해에 비해 얻을 수 있는 이점은 그저 그럭저럭한 수준이라고 본다. 특히 사용자에게 통제권을 주는 기술을 만들고자 오픈소스와 자유 소프트웨어 분야에 들어왔다. 사용자를 통제하는 기술을 만들기 위해서가 아니다. 오픈소스 AI 정의를 만들려는 시도도 있었지만, 그 정의 자체가 논란의 대상이다. 현재의 LLM은 대체로 사용자를 특정 서비스에 묶어 두는 독점 모델과 시스템에 기반하며, 이미 여러 문제에 노출된 사람들에게 불균형적으로 더 큰 피해를 준다고 본다.

LLM이 완전히 자유롭게 운영하고 만들 수 있고, 소수 기업에 권력을 집중시키지 않으며, 허위 정보의 범람을 일으키거나 인지 능력을 떨어뜨리지 않는다면 그저 괜찮은 장난감일지도 모른다. 하지만 존재하지 않는 것을 바라는 김에 유니콘도 하나 달라고 할 수 있겠다.

열기가 가라앉고 나면 벤처 자본의 막대한 보조금이 사라진 뒤에도 어떤 활용 사례가 충분히 유용해 살아남는지 알게 될 것이다. 그때는 기술 업계가 지금처럼 “이 문제를 AI로 어떻게 해결할까”를 먼저 묻는 대신, “이 일에 가장 좋은 도구는 무엇인가”를 다시 물을 수 있기를 바란다. 거품이 꺼지기 전에 지구가 끓거나 사회가 허위 정보와 딥페이크에 잠기지 않기를 바랄 뿐이다.