AI가 코드를 만들더라도 무엇을 만들지 결정하고 결과가 안전한지 확인할 사람은 필요하다. 소프트웨어 업계의 변화와 개발자의 역할을 다룬 에릭 프리즈(Eric Friese)는 기업이 개발자를 코드 생산량으로만 평가하지 말고, 각자가 맡아 책임질 시스템을 제공해야 한다고 주장한다.

프리즈는 PHP2Shell과 Node2Shell을 비롯한 취약점이 잇따른 시기를 언급하며, 보안 업무를 맡은 사람들이 현장에서 큰 부담을 지고 있다고 말한다. 그는 과거 의료 기업에서 일할 때 Log4Shell이 터지자 앱 보안 인력이 부족한 상황에서 회사의 대응을 맡았던 경험을 소개한다. 당시에는 자신이 공격을 막을 수도, 막지 못할 수도 있다는 부담이 컸지만, 직접 문제를 해결하는 일이기도 했다.

한편 소프트웨어 개발자들도 업계의 미래를 걱정하고 있다고 프리즈는 전한다. 소프트웨어 개발자가 되는 과정을 다루는 유튜브 채널 운영자 제임스 크로스(James Cross)는 업계가 몇 년 안에 존재하지 않을 수 있고, 계속되더라도 일하기 좋은 곳이 아닐 수 있다는 우려 때문에 진입 조언을 하기 어렵다고 영상에서 설명했다.

프리즈는 AI 도입이 개발자의 업무량을 줄이기보다 늘리는 경우가 많다고 주장한다. 기업이 개발자 한 명이 더 많은 일을 할 수 있다는 기대 아래 인력을 줄여도, 에이전트가 한 일을 지시하고 결과를 확인할 사람은 남아 있어야 한다는 것이다. 그는 개인의 생산성이 단순히 더해지는 것은 아니라는 점에서 이를 《The Mythical Man-Month》의 논의와 연결한다.

프리즈는 코드 작성이 소프트웨어 개발의 목적 그 자체가 아니라 결과를 위한 수단이었다고 강조한다. 아키텍처를 설계하고, 시스템이 제대로 만들어졌는지 확인하며, 문제를 해결하는 일도 개발자의 가치에 포함된다. 그의 견해에 따르면 AI는 시스템을 만드는 데 아직 서툴고, 지나치게 많고 장황해 읽거나 유지하기 어려운 코드와 취약점을 만들어낼 수 있다. 특정 취약점을 찾는 일도 일관되게 해내지는 못하며, 무엇을 만들지 결정하고 배포해도 안전한지 판단하는 일은 여전히 사람의 몫이다.

프리즈는 소프트웨어·보안 팀을 이끄는 사람들에게 개발자를 개인별 코드 생산량으로 평가하지 말고, 다음 Log4Shell 같은 사태에 대응할 감시 인력을 남기며, 티켓 처리에 그치지 않고 각자가 책임질 시스템을 맡기라고 제안한다. 그의 핵심 주장은 사람이 키보드 앞에서 제공하는 가치는 모델에 지시를 입력하는 능력만이 아니라, 문제를 자기 일로 받아들이고 결과를 책임지는 태도라는 것이다.

취약점 ‘2Shell’ 계열의 배경은 SecureLayer7의 정리에서 확인할 수 있다.