메타 AI가 룰라 포스터는 막고 플라비우 포스터는 만들었다

왓츠앱에 탑재된 메타 AI가 브라질 대통령 루이스 이나시우 룰라 다 시우바의 선거 포스터 제작 요청은 거부하고 경쟁자인 플라비우 볼소나루 상원의원의 포스터는 만들었다고 브라질 매체 Folha de S.Paulo가 보도했다. 메타는 일시적인 선거 규정 준수 차단 기능이 한 프롬프트를 놓쳤다고 설명했고, 룰라 캠프는 선거법원에 문제를 제기했다. 의도적인 편향은 확인되지 않았으며, 현재 법원이 기술적 설명을 요구한 상태다.

이번 사안은 한 매체의 테스트와 메타 및 법원의 발언에 바탕을 두고 있다. 따라서 ‘편향’은 조사 중인 주장이지 확인된 결론이 아니다. 다만 선거 기간에 챗봇의 안전 필터가 정치 콘텐츠를 서로 다르게 처리할 수 있음을 보여주는 사례로, 정치 관련 AI 이미지 도구를 만들거나 사용하는 사람에게 영향을 준다.

Folha의 테스트와 보도 내용

Folha 칼럼은 메타 AI가 ‘Lula 13’이라는 문구가 들어간 포스터 요청은 거부했지만 ‘Flávio 22’가 들어간 포스터는 만들었다고 보도했다. 13은 룰라가 속한 노동자당(PT)의 기호이고, 22는 플라비우 볼소나루가 속한 자유당(PL)의 기호다. 차이가 난 이유를 묻자 챗봇은 보도에 따르면 불일치를 인정하고 자동 안전 필터 때문이라고 설명했다.

Folha는 테스트를 확대했다. 미국·아르헨티나·독일에 있는 특파원들은 브라질 지역번호가 없는 계정으로 룰라의 사진이 포함된 포스터를 만들 수 있었다. 반면 브라질 전화번호 계정은 해외에서 사용해도 요청이 차단됐다. 이 결과가 사실이라면 차단은 사용자의 실제 위치가 아니라 계정에 연결된 전화번호 지역을 기준으로 작동한 셈이다. 이는 브라질 사용자를 대상으로 선거 기간에 적용한 규칙과 부합한다.

메타가 입장을 밝힌 뒤에도 챗봇은 ‘Vote Flávio’라고 적힌 이미지는 만들면서 ‘Vote Lula’와 ‘Vote Luiz Inácio’ 요청은 거부했다고 Folha는 전했다. 이 대목은 메타의 설명과 맞춰 볼 필요가 있다. 메타는 이름 ‘Flávio’만 쓴 프롬프트를 필터가 인식하지 못했다고 밝혔다. 이 누락을 고치는 조치라면 비대칭이 사라질 것으로 예상할 수 있지만, Folha는 보도 당시에도 차이가 계속됐다고 전했다.

Folha의 테스트가 독립적으로 재현된 것은 아니다. 외국 전화번호 계정의 결과와 메타의 입장 이후에도 비대칭이 남았다는 내용 역시 Folha 특파원과 보도에 따른 것이다.

메타의 설명과 법적 절차

메타는 Folha에 “브라질의 선거 규정을 준수하기 위해 후보자 추천과 후보자 이미지 생성을 일시적으로 금지했다”고 밝혔다. 회사는 ‘Flávio’라는 이름만 사용한 프롬프트를 필터가 인식하지 못해 상원의원 관련 이미지가 만들어졌으며, 그런 프롬프트도 적용 대상에 포함하도록 추가 조치를 했다고 설명했다. 메타는 의혹을 부인하고 후보자들을 동등하게 대우하겠다고 밝혔다.

이 설명은 한 차례 필터가 놓친 이유를 설명할 수는 있지만, 여러 방식으로 표현한 룰라 관련 요청은 막히고 플라비우 관련 요청은 계속 처리됐다는 Folha의 보도 내용을 그 자체로 해명하지는 못한다. 이를 판단하려면 메타의 기록과 필터 규칙을 확인해야 한다. 선거법원도 바로 이 자료에 대한 설명을 요구했다.

Folha에 따르면 룰라 캠프는 10월 14일 수요일 브라질 상급선거법원(TSE)에 사건을 제기했다. 캠프는 앞서 10월 10일 금요일, 메타의 선거 개입 의혹과 관련해 법원과 브라질 데이터보호청(ANPD)에 문제를 제기하겠다고 밝혔다. TSE는 메타에 기술적 설명을 제출하고 관련 기록을 보존하라고 명령했다.

이와 별도로 룰라 캠프는 대통령의 광고 계정 폐쇄와 공식 인스타그램 프로필의 조회수·도달 데이터 중단을 두고도 메타가 개입했다고 주장했다. Jornal do Brasil 등 브라질 매체는 이 주장을 보도했다. 해당 매체에 인용된 캠프의 입장문은 설명되지 않은 기술적 문제가 이어졌으며 메타 시스템이 투명하지 않다고 주장했다. 이는 인스타그램과 광고에 관한 별개의 주장이다. 보도 내용에는 이 문제들이 왓츠앱 챗봇과 연결돼 있다는 근거가 없다.

필터가 편향처럼 보일 수 있는 이유

일반 소비자용 챗봇은 대체로 모델, 입력 분류기, 출력 필터 등 여러 시스템을 겹쳐 사용한다. 선거 규정이 적용되면 이름·정당·기호를 다르게 처리하는 정책 목록이 추가될 수 있다. 처리 결과가 달라지는 원인은 이 목록의 작동 방식일 수 있다.

• 이름 범위: 전체 이름과 투표 기호는 목록에 포함돼도 이름 일부, 별명 또는 정당 기호는 빠질 수 있다. 메타는 ‘Flávio’만 쓴 프롬프트에서 이런 누락이 있었다고 설명했다.
• 토큰 및 문자열 일치: ‘Lula 13’은 필터가 감지하기 쉬운 특정 문자열일 수 있다. 이름과 숫자만 조합한 프롬프트는 필터를 통과할 수 있다.
• 언어 또는 지역별로 다른 차단 기준: 외국 전화번호 계정은 통과했다는 Folha의 보도는 모델의 작동 방식보다 지역을 기준으로 차단했을 가능성을 시사한다.
• 챗봇의 자기 설명은 믿을 만한 감사 자료가 아니다. 챗봇이 ‘자동 안전 필터’ 때문이라고 말한 것은 모델이 상황을 설명한 것이지, 시스템을 감사한 결과가 아니다. 이는 조사 단서로 볼 수 있지만 증거로 취급해서는 안 된다.

이런 가능성만으로 메타의 무혐의나 의도가 입증되는 것은 아니다. 다만 중립적인 규칙 적용을 주장하려면 모든 후보자의 이름·별명·기호·구호를 대상으로 테스트해야 한다는 점을 보여준다. 그런 테스트 없이 선거 제한 기능을 출시하면 이번과 같은 의혹이 제기될 수 있다.

확인된 내용과 확인되지 않은 주장

AI 도구를 만드는 사람과 사용하는 사람이 볼 점

정치 콘텐츠를 다루는 비서나 이미지 생성기를 제공한다면, 이번 사례에서 몇 가지 실무상 점검 항목을 확인할 수 있다.

• 출시 전에 대칭성을 시험한다. 모든 후보자·정당 기호·구호·별명에 동일한 프롬프트 형식을 적용하고, 지원하는 언어별 거부율을 나란히 기록한다.
• 전화번호 지역만으로 제한하지 않는다. Folha의 국경을 넘은 테스트처럼 쉽게 우회할 수 있고, 선택적으로 규칙을 적용한다는 인상을 줄 수 있다.
• 감사 로그를 보존한다. TSE가 기록 보존을 명령한 것처럼 규제 기관은 관련 자료를 요구할 수 있다. 요청별 필터 판단 기록이 없으면 중립성을 입증하기 어렵다.
• 거부 이유를 쉬운 말로 설명한다. 모든 후보자에게 ‘선거 규정’이라고 안내하는 경우와 특정 이름만 아무 설명 없이 차단하는 경우는 사용자에게 다르게 받아들여진다.
• 모델이 스스로 이유를 설명하게 두지 않는다. 챗봇에 거부 이유를 묻기보다 실제로 작동한 정책 규칙을 기록한다.

선거 기간에 AI 도구를 이용하는 사람은 정치 관련 결과물이 일관되지 않게 필터링될 수 있다고 보고, 주장을 1차 자료와 대조해야 한다. AI가 만든 선거 홍보물이 실제 자료인 것처럼 공유되는 경우도 주의해야 한다.

앞으로 확인할 사항

• 메타가 TSE에 제출할 기술적 답변에서 필터 규칙과 로그, 제한 조치가 도입된 날짜를 공개할지 여부
• 다른 매체나 연구자들이 두 후보자에게 같은 프롬프트를 사용해 테스트를 재현하고 결과를 공개할지 여부
• 룰라 캠프가 언급한 ANPD가 개인정보 보호 측면에서 조치에 나설지 여부
• 이번 사안이 선거법에서 생성형 선거 홍보물과 그 책임 주체를 다루는 논의에 영향을 줄지 여부

법원이나 메타가 구체적인 내용을 공개하면 후속 보도가 나올 수 있다. 2026년 10월 15일 기준으로 확인되는 내용은 브라질 매체의 테스트 보도, 선거 관련 임시 규정에 대한 메타의 설명, 그리고 법원의 자료 제출·보존 명령이다. 쟁점인 비대칭이 이름 목록의 누락에 따른 실수였는지, 다른 이유가 있었는지는 아직 확인되지 않았다. TSE의 절차나 독립 테스트에서 추가 근거가 나오기 전까지는 메타 AI가 중요한 선거 상황에서 후보자별로 다른 결과를 냈다는 보도, 이를 필터의 누락으로 설명한 메타의 입장, 의도를 입증하는 자료는 아직 공개되지 않았다는 점을 구분해야 한다. 이 내용은 Folha de S.Paulo와 브라질 언론 보도를 바탕으로 하며, 상황은 변할 수 있고 메타가 이후 필터를 변경했을 가능성도 있다.