메타 뮤즈는 이용자 주변 사람의 관계 기록을 만든다

메타의 AI 비서 뮤즈(Muse)는 수백만 건 다운로드됐고, 이용자들은 은행 계좌와 메시지, 건강 데이터를 연결해 작업을 맡기고 있다. 앱 내부 지침을 살펴본 연구자들은 뮤즈가 이용자 주변 사람마다 정보를 모아 기록을 만들도록 설계됐다고 전했다.

보안·안전 연구자 카란 조시(Karan Joshi)가 일반 채팅창에서 뮤즈에 소프트웨어 파일을 복사해 공유해 달라고 요청해 내부 지침과 시스템 프롬프트를 추출했다. 메타는 해당 파일이 투명성을 위해 접근 가능하도록 의도했다고 밝혔으며, 이 소식은 AI 비서에 민감한 정보를 연결하는 이용자에게 뮤즈의 기억 기능이 무엇을 담는지 보여준다.

뮤즈는 사람 정보를 어떻게 정리하나?

뮤즈는 이용자별 정보를 기억해 응답과 작업을 개인화하는 AI 비서다. 기억 기능은 정보를 항목별로 정리하는 서랍장에 빗대면 이해하기 쉽다. 뮤즈의 경우 그 항목에는 이용자의 가족과 친구, 동료뿐 아니라 이용자가 팔로우하는 사람도 포함될 수 있다.

조시가 공개한 지침에는 뮤즈가 이용자 주변 사람마다 페이지를 만들고, 매시간 정보를 모으는 과정이 담겼다. 페이지는 처음에는 내용이 거의 없을 수 있으며, 시간이 지나면서 ‘사실’, ‘이력’, ‘관계’, ‘공통점’, ‘열린 대화 주제’, ‘관계 강화’ 같은 항목이 채워질 수 있다. 지침은 뮤즈가 확보한 근거만 사용해야 하며, 내용을 지어내는 것보다 빈 페이지가 낫다고 명시한다.

기록에는 거주지와 직업, 되풀이되는 대화 주제, 생일이나 기념일 같은 날짜가 들어갈 수 있다. 과거 항목에는 여행이나 해결된 다툼, 최근의 중요한 일도 포함될 수 있다. 관계에 관한 기록은 친밀도와 관계의 바탕, 서로 대하는 방식, 현재 필요한 것이 무엇인지를 다룬다. 관계 강화 항목은 전화할 이유나 기억할 날짜, 다시 이야기할 내용, 상대를 돕는 방법을 제안할 수 있다.

메타와 전문가들은 무엇을 우려하나?

조시는 공개된 지침과 시스템 기술 자료를 보면 뮤즈가 이용자의 실제 관계를 파악하려 한다고 봤다. 옥스퍼드대 AI 윤리 연구소의 부교수 카리사 벨리스(Carissa Véliz)는 AI에 직접 입력한 정보뿐 아니라 시스템이 추론하거나 다른 데이터 출처에서 조합한 정보도 우려된다고 말했다. 추론이 정확하거나 틀릴 수 있다는 점 모두 문제가 될 수 있다는 지적이다.

메타 대변인 다니엘 로버츠(Daniel Roberts)는 뮤즈가 공개 정보와 이용자가 공유하기로 선택한 정보를 바탕으로 사람에 관한 맥락을 모은다고 설명했다. 예컨대 송장을 보낸 사람이 과거 욕실 공사를 맡았던 배관공이라는 사실이나 배우자가 좋아한다고 말한 꽃을 기억할 수 있다는 것이다.

메타는 이용자마다 전용 가상 머신(virtual machine)을 제공해 데이터와 맥락을 저장하며, 다른 에이전트는 여기에 접근할 수 없다고 밝혔다. 이용자는 기억을 지우거나 외부 서비스 연결을 언제든 끊을 수 있다. 이메일 전송이나 구매 같은 행동을 실행하기 전에는 사람의 확인을 받도록 설계됐으며, 이용자는 감사 로그(audit log)에서 에이전트의 활동과 예정된 작업을 볼 수 있다고 메타는 설명했다.

Center for Democracy and Technology의 AI Governance Lab 책임자인 미란다 보건(Miranda Bogen)은 뮤즈가 다른 AI 비서보다 관계와 연락처에 더 무게를 두는 것으로 보인다고 말했다. 보건은 이런 도구가 이용자에게 이메일과 일정, 금융기관 등 삶 전반의 정보를 연결하도록 적극 권한다며, 그 결과 기업이 이용자에 관해 알게 되는 정보가 크게 늘 수 있다고 우려했다. AI 비서의 기억 기능은 흔해지고 있지만, 보건은 정보를 줄이는 기능보다 더 많은 데이터를 공유하도록 유도하는 경향에 주목했다.

뮤즈를 사용할 때는 어떤 외부 서비스를 연결할지, 저장된 기억을 어떻게 확인하고 삭제할지 살펴볼 만하다. 원문은 뮤즈가 사람별 기록을 만들 때 실제로 어떤 정보 출처를 얼마나 활용하는지, 기록의 정확도를 어떻게 확인하는지는 밝히지 않는다.