구글 딥마인드의 연구 엔지니어 소피아 리구오리(Sofia Liguori)가 구글의 미 국방부 계약과 이스라엘 군사 계약에 반대해 사임했다. 그는 AI를 표적 선정과 전쟁에 쓰면 책임 소재가 흐려지고 전쟁의 잔혹성을 키울 수 있다고 밝혔다.
리구오리는 2023년 딥마인드에 합류해 전력망에서 전력을 더 효율적으로 배분하는 AI 시스템을 연구했다. 이후 이스라엘군과 무기 제조업체에 AI 도구를 제공하는 구글의 Project Nimbus 계약을 알게 되면서 회사의 군사 협력에 문제를 제기하기 시작했다고 말했다. 구글이 4월 미 국방부와 기밀 군사용 AI 계약을 발표한 다음 날에는 병가와 휴가를 사용해 업무를 중단했다.
그는 미 국방부 계약과 구글 클라우드의 기밀 업무 처리 보안 등급인 IL6 승인이 함께 추진된 점을 두고, 회사가 전장에서 AI를 쓰려는 의도를 드러낸다고 해석했다. 구글은 내부적으로 해당 계약이 문서 처리 등 행정 목적이라고 설명했다고 리구오리는 전했다. 관련 계약 가운데 미 국방부의 GenAI.mil 출범은 국방부 발표에 소개됐다.
리구오리는 표적을 정하는 과정이 불투명해지고, 사람이 시스템 출력을 충분히 검토하지 못하면서 책임을 서로 미룰 수 있다고 우려했다. 기술의 오류 가능성도 걱정하지만, 오류가 없으면 자동 표적화가 괜찮다는 식으로 논의를 좁혀서는 안 된다고 말했다. 그는 미납 학교 공격을 사례로 들며 오류 여부와 별개로 전쟁에 AI를 쓰는 문제를 봐야 한다고 주장했다.
그는 사내 게시물에서 ‘집단학살’이라는 단어가 포함된 글이 삭제됐고, 관리자와 인사 담당자로부터 표현 방식이 부적절하다는 지적을 들었다고 말했다. 구글 대변인 톰 휴잇은 직원들이 사업 윤리와 위법 행위 등에 관한 우려를 제기할 전용 경로가 있으며, 보복을 막는 엄격한 직장 정책을 시행한다고 밝혔다. 구글은 공공 부문 계약을 일관된 절차와 AI 원칙에 따라 검토한다고도 설명했다.
리구오리는 동료들과 함께 사내 노조 활동과 시위에 참여했다고 말했다. 딥마인드 직원들은 5월 노조 결성에 찬성표를 던졌다. 그는 계약에 반대하려면 파업에 나설 준비가 된 노동자들의 결집이 필요하다고 주장했으며, 사임 이유와 생각을 공개 서한에 담았다. 구글 직원 단체 No Tech for Apartheid와 관련한 활동도 인터뷰에서 언급했다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요