AI 코딩은 속도를 높여도 소프트웨어를 복잡하게 만들 수 있다

이 글은 서로 맞지 않거나 중복되는 설계와 모델이 시스템에 쌓여 변경 비용을 키우는 현상을 ‘탈일관성(decoherence)’이라고 부른다. 글의 핵심 주장은 AI 코딩 도구가 코드 생산을 늘리는 한편 이런 탈일관성도 빠르게 키울 수 있으며, 그 결과 자기개선을 거듭하는 AI보다 시스템을 고치기 어려워지는 ‘탈일관성 붕괴’가 더 현실적인 위험이 될 수 있다는 것이다.

글은 배관 교체를 비유로 든다. 건물의 낡은 배관을 한꺼번에 바꾸거나 층별로 교체하면 비용과 불편이 크지만, 체계적으로 마무리할 수 있다. 고장 날 때마다 부분 수리하면 당장은 편리하지만, 옛 배관과 새 배관, 임시 보수 구간이 뒤섞여 전체 시스템을 이해하고 바꾸기가 어려워진다. 소프트웨어에서도 여러 설계 방식과 임시 수정이 겹치면 변경 하나가 다른 부분에 미칠 영향을 파악하기 힘들어진다. 서둘러 분석을 줄이면 변경 품질이 낮아지고, 다음 변경은 더 복잡해지는 악순환이 생길 수 있다는 설명이다.

이 글은 탈일관성이 시간만 지나면 저절로 증가하는 것은 아니라고 강조한다. 시스템을 바꾸지 않으면 탈일관성도 그대로지만, 변경을 빠르게 반복하면서 일관성을 관리하지 않으면 복잡성이 누적될 수 있다. 글에 포함된 시뮬레이션은 구성 요소와 연결 관계를 그래프로 나타내고, 변경 주체가 맥락을 덜 살피는 방식과 더 신중한 방식으로 작업할 때 그래프가 어떻게 변하는지 보여준다. 글은 이 시뮬레이션의 가중치가 임의적이며 복잡한 시스템이 반드시 같은 방식으로 진화한다는 증거는 아니라고 밝힌다. 단순한 규칙과 국소적 선택만으로도 복잡성이 커지는 양상이 나타날 수 있다는 점을 설명하는 도구라는 주장이다. 시뮬레이션 체험하기

AI 코딩 도구의 영향에 대해서는 세 연구를 근거로 든다. 글에 따르면 718개 기업을 살펴본 하버드 연구에서는 코딩 에이전트 도입 뒤 작성된 코드가 30% 늘었지만 완성된 작업은 측정 가능한 수준으로 증가하지 않았다. 풀 리퀘스트 검토에는 49% 더 오래 걸렸고, 수정 요청으로 되돌아간 건수는 거의 두 배가 됐다. Cursor를 도입한 오픈소스 프로젝트 연구에서는 단기 작업 속도가 크게 높아졌지만 지속되지는 않았고, 코드 복잡성 증가는 남아 이후의 속도 저하에 주요 원인이 됐다. 6,000개가 넘는 저장소의 AI 작성 커밋 30만 건 이상을 분석한 연구에서는 약 11분의 1이 품질 문제를 하나 이상 일으켰으며, 도구에 따라서는 7분의 1에 달했다. 그런 문제 가운데 거의 4분의 1은 분석 시점에도 코드에 남아 있었다고 글은 전한다. 하버드 연구 · Cursor 관련 연구 · AI 작성 코드 분석

글은 이런 우려를 AI의 급격한 자기개선 가능성과 연결한다. 게임처럼 규칙과 성공 조건이 명확한 영역에서는 현실 세계와 분리된 채 성능을 측정하고 개선할 수 있다. 하지만 실제 소프트웨어의 품질은 속도나 코드 크기만으로 판단하기 어렵다. 소프트웨어는 현실의 목적을 달성하는 도구이며, 좋은 소프트웨어는 변화하는 요구에 맞춰 재사용하고 발전시킬 수 있어야 한다는 것이다. 글은 그 적응력을 뒷받침하는 특성으로 여러 맥락에서 함께 작동하는 ‘일관성’을 든다. 현실의 요구와 오랜 시간에 걸친 변화에 대조하지 않고서는 새 설계가 실제로 더 나은지 확인하기 어렵다는 논리다.

따라서 글은 데이터센터 안에서 AI가 스스로 더 나은 학습 방법을 만들어 빠르게 지능을 폭발적으로 키운다는 시나리오에 회의적이다. AI가 변경을 빠르게 거듭하면 탈일관성이 수정 능력보다 빠르게 누적될 수 있고, 이를 꼼꼼히 검증한다면 현실 세계에서 데이터를 얻는 속도에 제약받는다는 주장이다. 글은 이것이 AI가 인간을 넘어설 수 없다는 뜻은 아니며, 현실이 요구하는 검증 작업과 물리적·정보적 한계를 거쳐야 한다는 뜻이라고 한정한다. 관련 논의로 톰 데이비슨(Tom Davidson)의 데이터 병목 분석과 소프트웨어 지능 폭발 논문을 든다. 데이터 병목 논의 · 소프트웨어 지능 폭발 논문

글은 수학도 현실과 무관하게 참인 명제를 대량 생산하는 것만으로 발전하지 않는다고 주장한다. 수학적 개념이 실제 문제와 연결되면서 의미를 얻은 사례로 불 대수와 클로드 섀넌의 회로 연구를 든다. 또 2026년 9월 테렌스 타오를 포함한 필즈상 수상자 25명이 수학의 목표는 문제 풀이에 그치지 않고 이해를 쌓는 데 있으며, 참인 명제를 대량 생산하는 일이 새로운 아이디어의 토대를 약화할 수 있다고 서명한 선언을 소개한다. 선언문

마지막으로 글은 AI를 개발 과정의 핵심 업무를 대체하는 자율 시스템으로 쓰기보다 사람이 기계를 이끄는 방식으로 활용하자는 입장을 밝힌다. 오픈소스 개발 과정이 소프트웨어 생태계의 일관성을 만드는 데 기여해 왔다는 평가도 덧붙인다. 탈일관성이 심해져도 변경을 멈추고 일관성을 회복하는 작업을 끝까지 이어가면 되돌릴 수 있지만, 회복에는 수년 또는 수십 년이 걸릴 수도 있다는 경고다.