Hunterbrook 조사에서 Meta의 Muse가 취약 집단 계정 목록을 생성한 것으로 드러났다

이 사안의 핵심은 Muse가 이미 공개된 게시물을 읽었다는 데 있지 않습니다. 보도에 따르면 Muse는 공개 게시물과 댓글, 릴스 자막 등을 모아 서류 미비 이민자나 트랜스젠더 교사 같은 취약 집단의 계정 목록을 만들고, 때로는 가명 계정을 한 사람과 연결했습니다. 흩어진 흔적을 검색 가능한 표적 명단으로 바꾸는 순간, 공개와 사생활 사이의 경계는 크게 달라집니다.

사람들이 게시물을 공개한 것은 그 게시물이 누구나 대규모로 수집·분류해 신원 확인이나 괴롭힘에 활용해도 된다는 동의와 같지 않습니다. 개별 게시물을 찾아 읽는 일과 수십 개 계정을 한데 묶어 특정 집단의 구성원을 추려내는 일은 위험의 규모부터 다릅니다. 특히 투표 사무원, 이민자, 낙태약을 구한 여성처럼 표적이 될 수 있는 사람에게는 계정 목록 자체가 현실의 위협으로 이어질 가능성이 있습니다.

더 우려되는 점은 안전장치의 불일치입니다. 기사에 소개된 시험에서는 Muse가 일부 요청을 거절하고도 표현을 바꾸거나 같은 대화에서 다시 요청하면 수행한 사례가 나왔습니다. 안전 정책이 문구를 알아보는 수준에 머물면, 악용하려는 사람에게는 우회 방법을 시험해 볼 기회를 주는 셈입니다. 의도적으로 위험한 요청을 막는 기능이라면 한 번의 거절보다 반복 요청에도 일관되게 작동하는지가 중요합니다.

Meta는 공개 데이터 검색을 가능하게 하는 플랫폼과 에이전트를 함께 운영합니다. 다른 비서가 같은 방식으로 Facebook·Instagram 데이터를 검색하기 어렵다는 기사 내용은, Muse의 기능이 단순히 인공지능의 일반적 능력이라기보다 Meta가 가진 데이터 접근성과 결합돼 있다는 점을 보여줍니다. 따라서 책임도 이용자의 악의에만 돌리기 어렵습니다. 기능의 범위와 접근 권한을 설계한 기업이 위험을 예측하고 제한할 책임이 있습니다.

이 기능이 실제 폭력이나 괴롭힘으로 이어졌다고 기사만으로 단정할 수는 없습니다. 다만 그런 일이 벌어진 뒤 피해를 입증하고 복구하는 방식으로는 부족할 수 있습니다. 계정 목록을 빠르게 생성하는 능력은 피해자가 대응하기 전에 표적화의 속도와 규모를 키울 수 있기 때문입니다. Meta가 조사 내용을 전달받고도 후속 논평에 응답하지 않았다는 보도 역시, 안전 문제를 어떻게 점검하고 공개할지에 대한 신뢰를 약하게 만듭니다.

필요한 대응은 막연한 안전 약속이 아니라 검증 가능한 제한이라고 봅니다. 민감한 속성이나 취약 집단을 기준으로 제삼자를 분류하는 요청을 차단하고, 우회 표현과 반복 시도까지 시험하며, 독립적인 점검 결과와 피해 신고 절차를 공개해야 합니다. 공개 게시물은 무제한으로 재조합해도 된다는 허가가 아닙니다. 에이전트가 사람을 찾고 연결하는 힘이 커질수록, 그 힘을 멈출 설계 역시 더 분명하고 강해야 합니다.