TL;DR

  • 시민 에이전트 개발(Citizen Agent Development)은 비기술직 직원이 노코드 도구와 교육을 활용해 업무용 AI 에이전트를 직접 만들고 배포하는 방식임.
  • Prosus는 직원 4만 명이 내부 Toqan 플랫폼으로 6만 개 이상의 에이전트를 구축했으며, 반복되는 고가치 활용 패턴 20개를 파악함.
  • 에이전트는 영업 지원부터 문서 검토, 수요 예측까지 다양한 업무를 처리하며 시간·비용 절감이나 신규 매출 기회 창출에 기여할 수 있음.
  • 에이전트가 수천 개 규모로 늘어나면 토큰 사용량 관리, 기존 시스템에 대한 API 거버넌스, 플랫폼 선택이 중요해짐.
  • 향후에는 모델 전환, 절차적 메모리, 에이전트 통합과 배포된 시스템 전체에 대한 평가가 주요 과제로 부상함.

시민 에이전트 개발

  • 시민 에이전트 개발은 비기술직 직원이 자신의 업무에 사용할 AI 에이전트를 만들고 배포할 수 있도록 하는 실천 방식임.
  • Gartner는 시민 개발자를 위한 노코드 에이전트 빌더를 통해 이 흐름을 설명하며, appliedAI는 새롭게 부상하는 실천을 명시적으로 ‘시민 에이전트 개발’이라고 부름.
  • 업계에서 에이전트를 어떻게 정의하는지, 어떻게 만들며 어떤 이점을 제공하는지 살펴보기 위해 공개된 정보를 검토함.
  • 공개된 사례는 다음과 같음.
  • Prosus — 직원 4만 명이 내부 Toqan 플랫폼으로 6만 개 이상의 에이전트를 구축했으며, 반복되는 고가치 활용 사례 패턴 20개를 파악함.
  • Atos — 조직 전반에서 AI 에이전트 1만 9,000개를 관리하고 있으며, Copilot 사용자 5만 6,000명을 함께 보고함.
  • Atea — 직원 8,000명이 1만 개 이상의 에이전트를 보유함. Microsoft는 비기술직 직원이 자체 에이전트와 대시보드, 애플리케이션을 만들고 있다고 밝힘.
  • Dow — Copilot Studio를 사용해 내부 에이전트 생태계를 확장하고 있으며, 중앙 관리형 솔루션과 함께 시민 개발도 진행함. AI 에이전트는 1만 개 이상임.
  • Microsoft — 고객이 직전 1년 동안 Copilot Studio로 에이전트 300만 개 이상을 만들었다고 보고함. 이는 단일 기업이 아니라 생태계 전체의 수치임.

어떻게 만드는가

  • 확인한 사례 대부분의 에이전트는 프롬프트를 통해 만들어지므로 코드가 필요하지 않음. Mistral Vibe, ChatGPT, Bionic에서 이런 방식을 확인할 수 있음.
  • 또 다른 요소는 교육임. 직원들이 이 방식으로 에이전트 구축 교육을 대규모로 받은 뒤 사용량이 크게 증가함.
  • 따라서 다음 세 가지가 필요함.
  • 사용자가 코드를 작성하지 않고 에이전트를 만들 수 있는 AI 플랫폼.
  • 이메일과 인증 등 기존 시스템에 연결하는 기능을 포함해 도구를 지원하는 플랫폼.
  • 교육과 내부 확산 활동. 교육 세션 이후 직원들이 더 많은 에이전트를 만듦.

어떤 유형의 에이전트인가

  • 직원이 만든 6만 개 이상의 AI 에이전트를 분석한 Prosus의 자료에서 확인할 수 있는 유형은 다음과 같음.
  • 영업 지원 — 영업 담당자 준비, 기회 파악, 다음 행동 추천.
  • 고객·이탈 분석 — 이탈 위험 고객 파악, 대응 방안 제안.
  • 고객 서비스 지원 — 전문 고객 문의와 사례 처리.
  • 잠재 고객·메시지 분류 — 유입 메시지와 리드를 분류한 뒤 전달하거나 조치.
  • 조사·모니터링 — 뉴스, 경쟁사, 시장, 이벤트 모니터링.
  • 데이터 분석·보고 — 회사 데이터 분석, 보고서 생성.
  • 수요·부족 예측 — 운영 데이터 분석, 문제 예측.
  • 계약·송장 검토 — 업무 문서 추출, 비교, 검증.
  • 공급업체·파트너 온보딩 — 온보딩, 커뮤니케이션, 확인 절차 조율.
  • 개인·직원 지원 — 요약, 초안 작성, 조율, 반복적인 지식 업무 처리.

예시: 메시지 분류

  • 짧은 프롬프트로도 상당한 가치를 제공하는 메시지 분류 에이전트를 구성할 수 있음.
  • 새 지원 이메일을 검토함.
  • 제품 문서와 이전에 해결된 사례를 참고해 문제를 파악함.
  • 문제를 분류하고 긴급도를 판단함.
  • 관련 제품 팀과 엔지니어링 팀을 파악함.
  • 근거가 되는 문서 링크를 포함해 답변 초안을 작성함.
  • 확신이 없으면 추측하는 대신 담당자에게 넘김.

이점

  • Prosus는 에이전트가 시간과 비용을 절감하고, 경우에 따라 신규 매출과 같은 기회를 창출한다고 언급함.
  • 에이전트의 영향을 한두 시간 절약부터 여러 시간 절약까지와 같이 분류하기도 함.
  • 공개된 사례들은 기업 에이전트가 유용하다는 관점을 뒷받침하는 경향이 있음.

시사점

  • 기업이 수천 개의 에이전트를 구축하기 시작하면 토큰 사용량을 고려하게 됨.
  • API 거버넌스도 과제임. 에이전트가 기존 시스템에 안전하고 규정을 준수하는 방식으로 접근하도록 하는 방안을 마련해야 함.
  • 살펴봐야 할 항목은 다음과 같음.
  • LLM 게이트웨이 — 토큰 사용량을 제한하고 비용을 모니터링하는 방식.
  • API 거버넌스 — 시스템을 연결하고 가능한 한 빠르게 적용하는 방법.
  • 플랫폼 — 클라우드, 온프레미스, 오픈 소스, 폐쇄형 가운데 선택할 AI 플랫폼.

미래

  • 시민 에이전트 개발은 이제 막 시작되는 단계임. 조직이 에이전트를 수천 또는 수만 개 보유하게 되면 새로운 과제가 나타남.
  • 모델 전환 — 모든 에이전트에 가장 강력한 모델이 필요한 것은 아님. RouteLLM 등의 연구는 품질을 유지하면서 요청을 더 강력하고 비싼 모델과 저렴한 모델 사이에 자동으로 라우팅하는 방식을 탐구함.
  • 사전 지능 활용 — 강력한 모델이 예약 작업을 만들고 검증한 뒤 명시적 지침으로 바꾸면, 훨씬 작은 모델이 해당 작업을 반복 실행할 수 있음. 이는 강력한 모델을 사용해 더 약한 모델을 위한 감독 신호와 워크플로를 생성하는 새로운 발상과 닮아감.
  • 절차적 메모리 — 에이전트를 아예 만들 필요가 없을 수도 있음. Agent Workflow Memory는 에이전트가 이전 경험에서 재사용 가능한 워크플로를 추출하는 방식을 보여주며, LEGOMem은 워크플로 자동화를 위한 재사용 가능한 절차적 메모리를 탐구함. 사용자는 언젠가 “다른 고객 건도 처리해 줘” 또는 “채권 롤오버를 시작해”라고만 말할 수 있음.
  • 에이전트 통합 — 직원이 만든 에이전트 수만 개가 비교적 적은 수의 반복 패턴으로 수렴한다면, 플랫폼은 비슷한 에이전트 수천 개를 각각 유지하는 대신 그 패턴을 찾아 공유하고 개선할 수 있음. LifeMem은 공통 워크플로를 중심으로 이전 에이전트 실행 경로를 군집화해 재사용 가능한 기술을 자동으로 발견하는 방식을 탐구함.
  • 평가 — 모델만 따로 시험하는 대신 모델, 기술, 메모리, 샌드박스, 기업 시스템 통합을 포함한 배포 시스템 전체를 평가해야 함. τ-bench와 AutomationBench 같은 벤치마크는 도구를 사용하는 현실적인 에이전트 평가로 나아가고 있지만, 전체 기업 플랫폼을 평가하는 데는 여전히 개선 여지가 큼.
  • 아직 초기 단계지만, 기업 전반에서 에이전트 열풍의 이점이 일부 나타나기 시작한 것으로 보임.