TL;DR

  • 미국 국방부가 국가 안보를 이유로 앤스로픽을 공급망 위험 기업으로 지정한 지 수개월 만에 회사의 AI 도구 사용을 중단했으며, 클로드가 정보 분석과 군사 작전에 활용된 뒤 제거된 배경에는 시스템 통합 문제가 있었음.
  • 국방부는 지난 2월 피트 헤그세스 국방장관이 발표한 방침에 따라 8월 말까지 사용을 중단할 예정이었지만, 클로드는 지난주까지도 연구·분석·정보 수집과 이란 관련 군사 작전에 쓰였다는 증언이 나옴.
  • 앤스로픽은 대량 감시와 자율 무기 우려로 군의 무제한 접근과 안전장치 제거 요구를 거부했으며, 정부의 지정은 “전례가 없고 불법”이라며 트럼프 행정부를 상대로 소송을 제기함.
  • 클로드는 팔란티어가 운영하는 펜타곤의 주요 데이터 플랫폼 메이븐 스마트 시스템(Maven Smart System)에 깊이 통합돼 있었으며, 위성 이미지와 드론 영상 분석 및 잠재적 군사 표적 식별 등에 사용됨.
  • 펜타곤은 구글·xAI·오픈AI와 계약을 맺었고, 최근 일부 군 부서에서는 오픈AI 도구의 도입이 늘었지만, 앤스로픽 도구의 완전한 제거에는 상당한 시간이 걸림.

펜타곤, 앤스로픽 도구 사용 중단 발표

  • 미 국방부 관계자는 BBC에 국방부가 더는 앤스로픽의 AI 도구를 사용하지 않는다고 밝혔으며, 월요일 성명에서 “앤스로픽 제품 사용을 중단했다”고 설명함.
  • 피트 헤그세스 국방장관은 지난 2월 앤스로픽을 공급망 위험 기업으로 지정하고, 펜타곤이 8월 말까지 사용을 중단할 것이라고 발표함. 사용 중단이 늦어진 이유는 분명하지 않음.
  • 사안에 정통한 복수의 관계자에 따르면 클로드는 지난주까지도 연구, 분석, 정보 수집은 물론 이란 관련 군사 작전에 사용됨.
  • 이들은 클로드가 방대한 정보를 정리하는 데 중요한 도구였다고 전했으며, 펜타곤의 AI 업무를 가까이서 맡아온 전직 국방부 관계자와 계약업체 인력이 포함됨.
  • 앤스로픽 대변인은 펜타곤의 발표에 대한 논평 요청에 답하지 않음. 국방부가 앤스로픽 도구의 모든 사용을 중단했다는 세부 내용은 이번에 처음 보도됨.

앤스로픽의 지정과 법적 대응

  • 미국 정부와 군은 2024년부터 앤스로픽 도구를 사용했으며, 앤스로픽은 기밀 업무를 수행하는 정부 기관에 도구를 배치한 첫 첨단 AI 기업임.
  • 올해 초 펜타곤은 앤스로픽에 클로드의 안전장치를 제거하고 군에 AI 제품의 제한 없는 접근을 허용하라고 요구함.
  • 앤스로픽은 대량 감시와 자율 무기에 대한 우려를 이유로 요구를 거부함. 이에 헤그세스는 일반적으로 미국에 위협이 되는 국가에 기반을 둔 기업에 적용되는 법률을 근거로 앤스로픽을 “국가 안보 공급망 위험”으로 지정함.
  • 앤스로픽은 이 조치를 “전례가 없고 불법”이라고 비판하고 지정 철회를 위해 트럼프 행정부를 상대로 소송을 제기함.

메이븐 시스템에 깊이 통합된 클로드

  • 법적 다툼이 이어지는 동안 펜타곤은 구글, xAI, 오픈AI 등 다른 주요 기술 기업과 계약을 체결함. 국방부의 AI 사용을 아는 관계자 두 명에 따르면 최근 일부 군 부서에서는 오픈AI 도구의 도입이 더 널리 이뤄짐.
  • 펜타곤은 클로드가 여전히 널리 사용된다는 복수의 증언에 대한 BBC의 질문에 답하며 월요일 사용 중단 성명을 발표함.
  • 복수의 관계자에 따르면 클로드는 팔란티어가 운영하는 펜타곤의 대형 데이터 플랫폼 메이븐 스마트 시스템에 통합돼 있었음. 메이븐은 정보와 기타 데이터를 정리하는 펜타곤의 주요 플랫폼임.
  • 조지타운대학교 안보·신기술센터의 선임 연구 분석가 로런 칸은 클로드가 메이븐에 깊이 통합돼 있어 시스템에서 신속하게 제거하기 어려웠을 것이라고 설명함.

“펜타곤이 시스템 전반에서 클로드 사용을 모두 제거하는 데 이제서야 이르렀다는 사실은 이런 도구들이 단순히 꽂아서 쓰고 빼면 되는 제품이 아님을 보여줌.”

  • 전직 국방부 관계자인 칸은 “일단 통합되면 제거 과정이 고통스러울 수 있음”이라고 덧붙임.

정보 분석과 군사 작전에서의 활용

  • BBC는 AI 전문 방산 계약업체, 전직 국방부 관계자와 펜타곤의 AI 사용을 아는 사람들을 취재함. 이 가운데 여러 명은 언론 발언 권한이 없어 익명을 조건으로 인터뷰에 응함.
  • 전직 고위 국방부 관계자는 헤그세스가 처음 앤스로픽 도구의 정부 사용 중단을 지시했을 당시 “앤스로픽에서 오픈AI와 다른 도구로 넘어가는 데 우려가 있었음”이라고 전함.
  • 헤그세스는 미국과 이스라엘이 이란을 공격하기 하루 전인 2월 27일, 앤스로픽 도구 사용 중단까지 6개월의 시한을 설정함. 관계자 한 명에 따르면 논란이 이어지는 전 기간 동안 펜타곤 직원들은 강력한 미토스 모델을 포함한 앤스로픽의 클로드 도구를 계속 사용함.
  • 복수의 관계자는 클로드가 특히 팔란티어의 메이븐 시스템을 통한 정보 수집과 분석에 사용됐다고 전함. 주요 방산 기술 기업인 팔란티어는 도널드 트럼프 대통령의 억만장자 측근 피터 틸이 설립함.
  • 이 기술의 사용 방식을 아는 관계자들에 따르면 분석가와 국방부 관계자는 메이븐을 통해 위성 이미지와 드론 영상 등 시각 자료를 이용하고 정리함. 이후 이 자료를 클로드와 다른 대형 언어 모델(LLM)에 입력해 잠재적 군사 표적 식별 등의 작업을 수행함.
  • 메이븐을 시연받은 관계자 한 명에 따르면 국방부 관계자들은 지휘 계통 상부에 전달되는 한 페이지 분량의 브리핑 자료를 작성할 때도 이 기술을 자주 사용함.
  • 메이븐은 일부 미국 동맹국이 트럼프 행정부와 정보를 공유하는 데에도 사용됨.

트럼프와 앤스로픽의 관계 변화

  • 백악관과 앤스로픽의 관계는 개선되는 양상임. 트럼프는 지난주 앤스로픽 최고경영자 다리오 아모데이를 백악관에서 두 차례 만남.
  • 아모데이는 트럼프 및 다른 기술 업계 지도자들과의 회동 뒤 백악관에서 기자들에게 AI가 초래하는 위험에 여전히 우려가 있다고 밝힘.

“그런 위험에 어떻게 대응할지는 여전히 논의 중임. 대통령과 협력하면 안전하게 성공할 수 있음.”

  • 트럼프는 아모데이를 “훌륭하다”, “환상적이다”라고 칭찬함.