구글 딥마인드의 직원 일부가 회사의 군사 분야 AI 계약에 우려를 나타내며 퇴사했거나 퇴사를 진행 중이다. 이들은 계약으로 미군이 AI를 활용할 수 있는 범위가 넓어졌지만, 전쟁터에서 AI를 안전하게 쓰기 위한 감독과 검증이 충분하지 않다고 말한다.

런던에서 연구 엔지니어로 일했던 소피아 리구오리(Sofia Liguori)는 이번 주 퇴사했다. 그는 구글이 군사 작전에서 AI 시스템 사용을 확대하려 한다는 점에 우려를 표하며, 회사의 윤리적 가치에 대한 신뢰를 잃었다고 BBC에 말했다. 구글 딥마인드의 AI 연구자 안드레아스 키르슈(Andreas Kirsch)도 이달 초 퇴사했다. 그는 구글의 관리·감독 체계가 군사 및 기밀 환경에서 AI를 안전하고 책임 있게 배치하기에 충분하지 않다고 봤다.

구글은 올해 초 미 국방부와 계약을 맺어 기밀 군사 업무에 AI 기술을 제공하기로 했다. 계약은 AI 모델을 ‘합법적인 정부 목적’에 사용할 수 있도록 하며, 적절한 인간의 감독과 통제 없이 국내 대량 감시나 자율 무기(표적 선정 포함)에 사용해서는 안 된다고 규정한다. 미 국방부 장관 피트 헤그세스(Pete Hegseth)는 군에 AI를 통합하는 일을 주요 과제로 삼고 있으며, 트럼프 행정부가 ‘AI 우선 전투 부대’가 될 것이라고 말했다. 미 국방부와의 계약 관련 보도

구글은 BBC에 공공 부문 기관과 협력할 때 일관된 검토 절차를 따르며, 허용 가능한 사용 정책과 AI 원칙을 준수한다고 밝혔다. 직원들이 사업 윤리나 비위에 관한 우려를 제기할 수 있는 전용 채널이 있고, 보복을 막는 엄격한 직장 정책도 시행 중이라고 덧붙였다. 구글의 AI 원칙에는 인간의 감독 아래 AI를 구현하고 국제법과 인권에 맞게 기술을 개발한다는 내용이 담겨 있다.

직원들과 전문가들은 군사 계약에서 인간의 감독이 실제로 얼마나 이뤄지는지 우려한다. 전직 구글 직원인 키르슈는 현재 AI 모델이 군사 임무에 쓸 만큼 견고하지 않으며, 구글이 미 국방부의 AI 사용을 통제하거나 거부할 권한이 있는지, 실제 배치 방식을 충분히 파악하고 있는지도 불분명하다고 말했다.

올해 미군과 계약을 맺은 곳은 구글뿐이 아니다. 오픈AI, 아마존, 마이크로소프트, SpaceX, Oracle, Nvidia, Reflection도 운송·계획·전장 작전 등 여러 군사 환경에서 AI를 사용할 수 있도록 계약했다. 미군의 주요 정보·데이터 관리 소프트웨어인 Maven Smart Systems는 Palantir가 개발했으며, AI를 활용해 표적을 선정하고 식별하도록 돕는다. 전 프로젝트 책임자인 잭 섀너핸(Jack Shanahan) 퇴역 중장은 AI를 최대한 빠르고 널리 배치하려는 분위기가 시험과 평가의 엄격함을 희생시킬 수 있다고 지적했다.

전 OpenAI 지정학 팀장 사라 쇼커(Sarah Shoker)는 AI가 사람보다 빠르게 작동해 조작자가 결정을 내려야 하는 시간을 줄인다고 말했다. 특히 스트레스가 큰 환경에서 AI가 선정한 표적이 수백 개에 달하고 검토 시간이 짧으면 사람이 결과의 오류를 의미 있게 확인하기 어렵다는 우려다.

구글 직원들은 고용 계약상 회사를 공개적으로 비판할 수 없다는 이유로 AI 안전과 전쟁 활용에 대해 말하기를 두려워한다고 BBC에 전했다. 익명을 요구한 현직 직원은 회사의 초기 사명에 공감해 입사한 직원들이 떠날 수 있지만, 경력 초기의 인력이 그 자리를 채울 수도 있다고 말했다.

구글은 이스라엘 정부·군에 AI 기술과 클라우드 인프라를 제공하는 아마존과의 공동 계약인 Project Nimbus로도 비판을 받아왔다. 2024년 당시 구글은 이 계약이 무기나 정보기관과 관련된 고도로 민감한 기밀 또는 군사 업무를 대상으로 하지 않는다고 밝혔다. 최근 다큐멘터리 Naza는 가자지구 폭격에 사용된 AI 표적 시스템을 다뤘지만, 이스라엘 정부 장관은 영화의 주장이 거짓이며 왜곡됐다고 말했다.