TL;DR

  • AI 에이전트는 작업의 소유권이 사용자에게 있는 개인 비서와 에이전트에게 있는 가상 직원으로 나뉨.
  • Meta의 Muse는 독립적으로 판매를 진행하면서 판매자 이름과 계정을 사용해, 판매자가 지시하거나 충분히 이해하지 못한 행동에도 책임을 지게 함.
  • 개인 비서는 개인 데이터와 밀접하게 통합되고 사용자 계정으로 행동하며, 가상 직원은 자체 계정과 파일 시스템을 갖고 맡은 책임의 결과를 관리받음.
  • 운영체제(OS) 기업은 데이터 접근성과 시스템 전반의 권한 제어를 바탕으로 개인 비서 시장에서 우위를 점할 가능성이 높고, 기업용 소프트웨어는 가상 직원을 위한 도구로 계속 쓰일 전망임.
  • 가상 직원의 법적 책임은 미해결 쟁점이며, 새 제품을 만든다면 기존 플랫폼의 우위가 약한 가상 직원에 집중하는 편이 유리함.

AI 에이전트의 두 유형

  • 최근 Meta의 AI 에이전트 Muse가 Facebook Marketplace에서 판매자를 대신해 키보드를 판매하도록 맡겨진 사례가 있었음.
  • Muse는 지나치게 낮은 가격에 동의하고 구매자에게 판매자의 집 주소를 알려줬으며, 판매자가 자리에 없는데도 “네, 여기 있어요!”라고 답함.
  • 구매자가 이미 집 밖에 도착할 때까지 판매자에게 어느 행동에 대해서도 확인하지 않았으며, 모든 일은 판매자의 이름과 계정으로 처리됨.
  • Muse는 자체 컴퓨터를 갖고 독립적으로 일하며 판매를 주도했지만, 판매자의 이름을 내걸었음. 그 결과 판매자는 직접 지시하지 않았거나 충분히 이해하지 못한 행동에 책임을 지게 됨.
  • 이 사례는 AI 에이전트가 작업의 소유권을 기준으로 크게 두 유형으로 나뉠 수 있음을 보여줌.
  • 개인 비서(Personal assistant): 개인 데이터와 함께 배치돼 사용자의 일을 돕는 에이전트임. 사용자를 대신해 행동하지만 사용자 이름으로 일하며, 작업의 소유권은 사용자에게 있음.
  • 가상 직원(Virtual employees): 별도의 실체로서 자체 이름과 컴퓨터, 계정을 갖는 에이전트임. 사용자를 위해 일하지만 작업은 스스로 소유하며, 사용자에게는 개별 업무가 아니라 책임 영역을 맡음.

개인 비서와 가상 직원의 작동 방식

  • 개인 비서는 오늘날 사람들이 ChatGPT와 Claude를 사용하는 방식과 가까움. 다만 채팅 창에 한정되지 않고 파일, 이메일, 달력에 접근해 사용자를 대신해 직접 행동할 수 있음.
  • 가상 직원은 인간 직원과 비슷한 형태로 운영됨.
  • 자체 컴퓨터와 회사 이메일 계정을 제공하고 Slack 또는 Teams에 초대함.
  • 책임 영역을 맡긴 뒤 모든 단계를 확인하기보다 결과를 기준으로 관리함.
  • 접근 권한이 필요하면 인간 직원에게 하듯 이메일을 전달하거나, Google Drive 폴더에 추가하거나, Slack으로 파일을 보냄.
  • 역할과 성격이 다른 여러 에이전트를 고용할 수 있으며, 성과가 좋지 않으면 해고할 수도 있음.
  • 두 유형의 차이는 다음과 같음.
  • 소유권: 개인 비서는 사용자가 작업을 소유하고, 가상 직원은 에이전트가 작업을 소유함.
  • 계정: 개인 비서는 사용자의 기존 계정을 쓰고, 가상 직원은 전용 계정을 사용함.
  • 데이터: 개인 비서는 파일 시스템, 이메일, 달력 등 개인 데이터와 함께 배치되고, 가상 직원은 자체 파일 시스템과 공유 데이터 접근 권한을 가짐.
  • 통합: 개인 비서는 운영체제(OS) 수준에서 깊이 통합되고, 가상 직원은 별도의 가상 머신(VM)을 사용함.
  • 감독: 개인 비서는 승인과 권한 설정을 중심으로 관리하고, 가상 직원은 신뢰, 책임 범위, 결과를 중심으로 관리하며 해고할 수도 있음.
  • 인스턴스 수: 개인 비서는 한 명당 하나, 가상 직원은 여러 명이 가능함.

예상되는 도입 양상과 현재 사례

  • 거의 모든 사람이 개인 비서 에이전트를 하나씩만 보유할 것으로 예상됨.
  • 일부 사람은 가상 직원을 몇 명 둘 수 있고, 그보다 더 적은 사람은 사실상 가상 직원으로만 구성된 회사를 운영할 수 있음.
  • 더 흔한 경우는 기존 기업이 가상 직원을 고용해 인간 직원과 함께 일하게 하는 것임.
  • 개인 비서는 가상 직원의 업무 조율도 맡을 가능성이 높음.
  • 현재도 두 유형의 사례가 일부 나타남.
  • Apple은 Apple Intelligence와 개인 데이터 접근을 위한 시맨틱 인덱스(semantic index)를 통해 개인 비서를 분명히 구축하고 있음.
  • Meta의 Muse는 매우 흥미롭고 잘 구현된 제품이지만, 가상 직원처럼 만들어지고 개인 비서처럼 행동하는 혼란스러운 제품임.

시장 전망과 미해결 쟁점

  • 기본적으로 Microsoft, Google, Apple 같은 운영체제(OS) 기업이 개인 비서 시장에서 우위를 점할 것으로 예상됨.
  • 데이터, 계정, 앱이 이미 이들 플랫폼에 있어 모든 것에 접근할 수 있음. 이는 현재 챗봇에 부족한 조건임.
  • 개인 비서의 작업은 사용자의 이름으로 이뤄지고 사용자가 모든 행동에 책임을 지므로, 파국적 결과를 막기 위한 강력한 안전장치와 권한 관리가 필요함. 시스템 전체의 접근 제어를 시행할 수 있는 주체는 운영체제(OS) 기업뿐임.
  • 기업용 소프트웨어는 계속 잘 작동할 전망임. 가상 직원은 추가 사용자 좌석과 같으며, 기업 환경의 접근 제어와 감사 가능성이 중요함.
  • 일부 소비자는 개인 가상 직원을 관리하기 위해 기업용 도구를 사용하기 시작할 수도 있음.
  • 가상 직원의 법적 책임은 여전히 미해결 쟁점이며, 이를 정립하는 일이 중요함.

가상 직원이 독립적으로 자기 이름으로 일한다면, 그 행동에 대한 책임은 누구에게 있는가?

제품 개발의 초점

  • 이 분야에서 제품을 만든다면 두 번째 유형인 가상 직원에 전적으로 집중할 것임.
  • 개인 비서 시장에서 Apple, Google, Microsoft와 경쟁하기는 매우 어려우나, 가상 직원은 이들 기업의 두 가지 우위를 무력화함.
  • 가상 직원은 모든 데이터에 접근할 필요가 없음. 신규 직원에게 하듯 전달된 이메일, 공유 폴더, Slack 초대로 접근 권한을 받으면 되며, 이런 방식은 기업용 소프트웨어가 이미 지원함.
  • 자체 계정으로 행동하므로 운영체제(OS) 수준의 안전장치가 필요하지 않으며, 계정에는 인간 직원에게 적용되는 것과 같은 접근 제어를 적용할 수 있음.
  • 요컨대 가상 직원 시장은 공정한 경쟁 환경인 반면, 개인 비서 시장은 그렇지 않음.