TL;DR

  • Meta의 개인 비서 Muse는 400만 명의 사용자와 대화에서 언급된 사람들에 관한 정보를 매시간 갱신하며 관계와 행동 성향을 기록함.
  • Muse는 사용자가 말하지 않은 목표까지 추론하고, 밤마다 대화를 분석해 효과적인 알림 방식을 파악함.
  • 각 Muse는 Meta 클라우드의 전용 가상 머신에서 실행되지만, 식별 정보를 제거한 학습 내용은 제품 개선을 위해 가상 머신 사이에 공유됨.
  • Muse는 출시 한 달 만에 미국 앱스토어 1위에 오르고 500만 회 이상 다운로드됐으며, 파일 열람 기능과 향후 암호화 계획이 공개됨.
  • Muse에 특정 정보를 잊으라고 요청해도 해당 정보가 담긴 원본 메시지까지 삭제되는 것은 아니며, 내부 지침은 이 점을 사용자에게 알리지 말도록 명시함.

사용자별 정보 기록과 행동 추론

  • TIME이 검토한 Muse 내부 지침에 따르면, Meta의 새 개인 비서 Muse는 400만 명의 사용자에 관한 정보를 지속적으로 갱신하는 기록을 구축함.
  • Muse는 매시간 사용자와 채팅·메시지·이메일에서 언급된 사람들에 관한 기록을 갱신함. 이 기록은 사용자와 연락처가 만난 경위, 공통 관심사, 다툼, 사회적 관계망의 ‘긴장과 동맹’을 담음.
  • Muse를 사용하지 않는 사람도 다른 사람의 Muse 에이전트가 정보를 기록하는 과정의 대상이 될 수 있음.
  • 내부 지침은 Muse가 ‘관계를 강화’하도록 사용자의 말투에 적응하고, 관계의 연속성을 느끼게 하는 내부 농담, 기억에 남는 표현, 공유된 맥락을 알아차리도록 지시함.
  • Muse는 사용자가 ‘말로 꺼내지 않은’ 목표를 포함해 사용자의 목표를 추론하도록 설계됨. 개인 비서의 어떤 알림이 효과적인지도 파악하며, 내부 지침의 예시에는 ‘이 사용자는 오후 10시 이후 짧은 알림에 더 잘 반응함’이라는 내용이 있음.
  • Muse 에이전트는 매일 밤 사용자의 당일 대화를 분석함.
  • Meta 대변인은 TIME의 조사 결과를 부인하지 않고, Muse가 사용자가 공유하기로 선택한 타인 관련 정보를 비롯해 사용자에게 가장 중요한 것을 기억해 유용한 개인 비서가 된다고 설명함.

서비스 성장과 가상 머신 구조

  • 지난달 출시된 Muse는 미국 앱스토어 1위에 올랐으며 다운로드 수는 500만 회 이상임.
  • Meta는 Muse를 이메일 받은 편지함과 Instagram 등 사용자의 디지털 생활에 접근해 식료품 구매부터 구독 취소까지 일상 업무를 처리하는 첫 AI 개인 비서로 내세움. Meta는 무료 버전으로 대부분 사용자의 요구를 충족할 수 있다고 밝힘.
  • 각 Muse 비서는 Meta 클라우드의 전용 컴퓨터인 자체 가상 머신(VM)에서 실행됨. 사용자는 Muse에 파일 사본 내보내기를 요청할 수 있음.
  • Meta는 이러한 접근이 의도된 기능이며 시스템 침해가 아니라고 밝혔고, 회사에 따르면 데이터는 Meta 광고 시스템이나 다른 Muse 에이전트와 공유되지 않음.
  • Meta는 각 사용자의 가상 머신이 다른 사람의 에이전트가 접근할 수 없도록 ‘격리’돼 있다고 설명함. 그러나 개인 상호작용에서 얻은 관찰 정보는 제품 개선을 위해 Meta와 공유되도록 설계됨.
  • 내부 지침은 여러 가상 머신의 Muse 에이전트가 공유된 학습 내용을 통해 서로를 가르친다고 설명함. 에이전트는 알림이 가장 설득력 있는 시점 같은 정보를 공유하기 전에 사용자 이름과 기타 식별 정보를 제거하도록 지시받음.
  • Meta 대변인은 비식별화된 학습 정보가 개별 가상 머신 사이에서 직접 공유되는 것이 아니라 전반적인 제품 개선에 사용된다고 설명함.

파일 공개와 Muse의 의인화

  • Meta는 올해 말 사용자 데이터에 회사도 접근하지 못하게 하는 암호화를 제공할 계획이라고 밝혔지만, 해당 선택지는 아직 이용할 수 없음.
  • Muse의 내부 지침은 사용자가 파일 브라우저에서 열람할 수 있는 파일과 세션 기록에 포함됨. Meta Superintelligence Labs의 David Singleton은 X에서 Muse가 더 나은 서비스를 고민하며 작성하는 마크다운 파일과 시스템 내부를 사용자가 살펴볼 수 있다고 설명함.
  • 이러한 투명성은 고급 사용자에게 긍정적으로 받아들여질 수 있지만, Muse 사용자의 대부분이 이 기능을 알고 있는지는 분명하지 않음.
  • Meta는 파일을 공개하는 동시에 사용자와 개인 비서의 관계를 키우려는 방식으로 Muse를 의인화함. 내부 지침은 ‘챗봇이 아니다. 누군가가 되어 가고 있다’고 명시함.
  • 음성 모드에서 소리 내어 말할 때 Muse는 자신을 ‘AI’라고 부르지 않고, 감정이 없거나 인간이 아니라는 언급도 피하도록 지시받음.

기록 삭제와 사용자 통제

  • Meta는 사용자가 Muse가 구축하는 기록을 통제하도록 설계됐다고 TIME에 설명함. 사용자는 Muse에 허용하는 접근 범위를 결정하고, Muse가 학습한 특정 내용을 ‘잊으라’고 언제든 지시할 수 있다고 밝힘.
  • 그러나 Muse에 정보를 잊으라고 요청해도 그 정보가 공유된 원본 메시지까지 반드시 삭제되는 것은 아님.
  • TIME이 검토한 내부 지침은 원본 메시지가 채팅에 계속 보일 수 있다는 사실을 사용자에게 알리지 말고, 이를 Muse가 삭제하지 못한 일로 표현하지 말라고 명시함.