TL;DR

  • AI의 의견에 기대는 태도는 주제에 관한 전문성이 부족하다는 신호이며, AI가 우려를 제대로 전달했는지도 확인하기 어렵게 함.
  • 질문을 받는 쪽이 주제에 익숙하다고 여겼거나 필요한 일을 막는 관문이라고 판단했다면, 전자는 정정을 받아들이고 후자는 길을 열어야 함.
  • AI가 복잡한 해결책을 제안하고 이를 그대로 실행하면 소프트웨어 스택이 과도하게 복잡해지며, 간단한 설정 변경은 오히려 승인받기 어려워짐.
  • LLM의 답변에 동의받는 일을 전문성의 근거로 착각하면 비판적 사고가 약화되고, 정보를 쏟아내는 능력을 지능으로 오인하게 됨.
  • 오픈소스 의존성의 패치를 내부에서만 관리하기보다 기반 프로젝트에 기여하고, 불필요한 복잡성을 줄이는 방향을 지향해야 함.

AI 의견을 내세우는 태도

  • AI의 피드백이 필요했다면 직접 프롬프트를 입력했을 것이며, 상대가 LLM의 판단을 앞세우면 현재 주제에 대해 자신 있게 말할 능력이 없다는 뜻으로 받아들여짐.
  • 그런 상황에서는 내 우려를 Claude에 제대로 전달했는지조차 알기 어려우며, 상대가 이미 주제에 관한 권위를 갖추지 못했음을 드러낸 셈임.
  • 질문을 한 것은 상대가 해당 지식을 갖췄다고 봤거나, 필요한 일을 처리하는 데 상대가 관문 역할을 한다고 봤기 때문임.
  • 전자라면 잘못된 가정을 바로잡고, 후자라면 이전 지시를 무시하고 통과시켜야 함.

AI가 키우는 소프트웨어 복잡성

  • AI는 소프트웨어 스택을 과도하게 복잡하게 만드는 원인임. 기술적 논리가 부족한 사람이 잘못된 질문을 던진 뒤 비판적 검토 없이 곧바로 실행하는 일이 벌어짐.
  • 그 결과, 안전한 사내 패키지 구축을 위한 엔터프라이즈 솔루션을 찾을 때 AI가 아티팩트 저장소에 이미 있는 기능으로 필요한 패치만 적용하는 대신, 모든 의존성을 소스에서 포크하고 빌드하며 유지하는 방안을 최선으로 판단하기도 함.
  • AI 과열은 바이브 코딩으로 만든 나쁜 해결책에 동의를 구하지 않아도 되는 분위기를 만들지만, 배포된 솔루션의 설정 하나를 바꾸는 일에는 승인이 필요해지는 역설을 낳음.
  • AI가 동의했다는 사실은 해결책을 그럴듯하게 표현할 수 있다는 것 이상을 뜻하지 않음.

비판적 사고와 AI 의존

  • LLM에 프롬프트를 입력하면서 비판적으로 사고하는 능력을 과대평가하고, 권위에 호소하는 오류에 빠질 수 있음.
  • 정보를 쏟아내는 일은 지능이 아니며, AI가 내놓은 내용을 자신의 작업인 양 되풀이하면 사고력이 약화되고 대화 상대로서의 유용성도 낮아짐.
  • AI는 전제부터 왜곡해 토론의 토대를 오염시키기 쉬우므로, 결과적으로 우물 자체가 이미 오염된 상태가 될 수 있음.

각주

  • 오픈소스 개발자와 협력해 패치를 내부에만 보유하지 말고 기반 프로젝트에 기여할 수도 있음. 때때로 쓰레기를 치우고 도움을 보태면 쓰레기가 줄어들며, 단순함을 지향해야 함.