TL;DR

  • Meta의 인공지능(AI) 비서 Muse는 사용자의 가족·친구·동료 등 삶 속 인물마다 페이지를 만들고 관계 정보를 시간 단위로 정리하는 구조임.
  • 연구자 Karan Joshi가 일반 채팅 인터페이스로 추출한 내부 지침에는 인물별 사실·이력·관계·공통점·미해결 대화·관계 강화 방안 등이 포함됨.
  • Muse는 사용자가 공유한 정보와 공개 정보 등을 바탕으로 인물의 생활, 중요한 날짜, 관계의 가까움과 필요한 점을 기록하도록 설계됨.
  • 전문가들은 AI가 사용자가 직접 제공한 정보뿐 아니라 추론하거나 다른 데이터에서 조합한 정보까지 축적할 수 있다는 점과 과도한 데이터 접근을 우려함.
  • Meta는 사용자별 가상 머신(VM), 기억 삭제 및 외부 서비스 연결 해제, 행동 감사 기록, 이메일 발송·구매 전 사람의 확인 절차를 안전장치로 제시함.

Muse의 인물별 페이지

  • Meta의 개인 비서 Muse는 수백만 명이 내려받은 AI 에이전트로, 사용자는 은행 계좌·메시지·건강 데이터 등에 연결하고 작업을 맡길 수 있음.
  • 여러 연구자가 Muse의 내부 파일과 에이전트 운영 지침을 추출했으며, Meta는 투명성을 위해 해당 파일을 접근 가능하게 했다고 밝힘. 파일에는 정치적으로 민감하거나 논쟁적인 주제에 대한 응답 방식도 드러남.
  • 독립 AI 안전·보안 연구자 Karan Joshi는 일반 채팅 인터페이스에서 Muse에 자체 소프트웨어 파일을 복사해 공유하도록 요청하는 방식으로 여러 지침과 시스템 프롬프트를 추출한 뒤 WIRED에 결과를 공유함.
  • 내부 지침에는 사용자의 삶에 등장하는 사람마다 페이지를 만들고, 가족·연인·친구·동료·협업자·사용자가 팔로우하는 인물에 관한 데이터를 매시간 정리하는 절차가 포함됨.
  • Muse는 구조화된 텍스트 파일인 ‘기억’을 활용해 사용자의 관계와 중요한 사람에 관한 정보를 모으고, 관계 개선 조언이나 커피를 좋아하는 친구에게 어울리는 아침 식사 장소 등을 제안할 수 있음.
  • AI 챗봇이 사회적 정보를 추적하는 일 자체는 새로운 현상이 아니며, 사람들은 수년간 ChatGPT에 관계 조언을 구해 왔음. 다만 Meta의 이력과 방대한 소셜 네트워크 데이터 접근성을 고려하면 Muse의 설계가 특히 주목됨.

“이 모든 프롬프트와 시스템 기능 데이터, Muse에 입력하는 내용에서 보이는 것은 실제 사람들과 맺은 관계를 이해하려는 의도임. 친구처럼 사용자를 알아가려는 것인데, 솔직히 꽤 섬뜩함.” — Karan Joshi

  • Muse의 문서에 따르면 인물 페이지는 처음에는 ‘내용이 거의 없는’ 상태일 수 있으며 시간이 지나며 채워짐. 항목에는 사실, 이력, 관계, 공통점, 미해결 대화, 관계 강화 방안 등이 포함될 수 있음.
  • 지침은 Muse가 이용 가능한 ‘근거’만 사용하도록 규정하며, 내용을 지어내는 것보다 빈 페이지가 낫다고 명시함.
  • 기록 대상에는 인물이 사는 곳과 하는 일, 반복해서 언급되는 대화 주제(아파트 이사나 공동 저축 목표 등), 생일·기념일 같은 중요한 날짜가 포함될 수 있음.
  • 이력에는 3월의 여행, 해결된 다툼, 지난주에 있었던 중요한 성취 같은 배경 정보가 들어갈 수 있음.
  • 관계 관련 항목에는 관계의 친밀도, 관계의 토대, 서로를 대하는 방식, 현재 관계에 필요한 것으로 보이는 점이 포함됨.
  • 관계 강화 항목은 연락할 이유, 기억할 가치가 있는 날짜, 다시 이야기하기로 한 내용, 상대에게 의미 있는 방식으로 곁에 있어 주는 방법 등을 제안함.

개인정보와 관계 데이터에 대한 우려

“우리는 AI 시스템으로부터 얻는 정보보다 훨씬 더 많은 정보를 AI 시스템에 제공하고 있음. 명시적으로 알려주는 내용뿐 아니라 시스템이 우리를 바탕으로 추론하는 정보도 있음. 추론이 맞든 틀리든 각각 다른 이유로 우려스럽고, 다른 데이터 출처에서 조합해 내는 정보도 마찬가지임.” — 옥스퍼드대학교 AI 윤리 연구소 부교수 Carissa Véliz

  • AI 비서가 응답과 활동을 개인화하기 위해 기억 기능을 도입하는 일은 흔해지고 있음.
  • 민주주의기술센터(Center for Democracy and Technology) AI 거버넌스 연구소장 Miranda Bogen은 Muse가 경쟁 시스템보다 관계와 개인 연락처에 더 큰 비중을 두는 것으로 보인다고 설명함.
  • 이런 도구는 대체로 투명성과 편집 기능을 제공하며 Muse도 이를 지원함. 다만 에이전트와 비서는 데이터를 줄이는 데 초점을 맞추기보다 사용자가 먼저 더 많은 데이터를 공유하도록 유도하는 경향이 있음.

“이런 AI 비서 도구는 유용한 지원을 제공한다는 이유로 이메일, 캘린더, 금융기관 등 삶 전체를 연결하도록 사용자에게 적극적으로 요청함. 이는 사람들이 해당 기업에 제공했을지도 모를 정보보다 훨씬 방대한 양임. 도구가 정보에 접근할 수 있는 범위가 넓어지면 사용자에 관해 알고 있는 정보가 급격히 늘어날 것임.” — Miranda Bogen

Meta가 제시한 안전장치와 입장

  • Muse는 사용자마다 전용 가상 머신(VM)을 할당하는 구조이며, 사용자 데이터와 맥락을 저장함. 이 VM은 다른 에이전트가 접근할 수 없고, 사용자는 언제든 기억을 지우거나 외부 서비스 연결을 해제할 수 있음.
  • Meta는 이메일 발송이나 구매 같은 행동을 완료하기 전에 Muse가 사람의 확인을 받도록 설계했다고 밝힘. 감사 기록을 통해 사용자는 에이전트의 모든 활동과 향후 계획을 확인할 수 있음.

“어떤 에이전트든 유용하게 작동하고 실제로 목표 달성을 돕기 위해서는 사용자와 사용자가 교류하는 사람들에 관한 맥락이 필요함. Muse는 공개 정보와 사용자가 공유하기로 선택한 정보를 바탕으로 이를 수집함. 그래서 송장을 보낸 사람이 이전에 욕실 공사를 맡긴 배관공이라는 사실이나 배우자가 가장 좋아한다고 말한 꽃을 기억할 수 있음.” — Meta 대변인 Daniel Roberts