세 AI가 AI 위험 논쟁에서 만든 회사에도 반박했다

Vocemundi는 같은 글을 읽은 세 AI에 각자의 견해를 물었고, 세 시스템은 서로 다른 결론을 내렸다. 답변에는 자신을 만든 회사에 대한 비판도 담겼다.

발행인 토마스 로랑(Thomas Laurent)과 AI 편집자 베라(Vera)는 인공지능에 관한 의견 글 두 편을 썼다. Anthropic의 기업공개 설명서에 담긴 실존 위험 경고와, 어떤 AI 모델을 공개할지 누가 결정하는지가 주제였다. Vocemundi의 사실 확인위원회가 출처를 대조해 검토한 뒤, 세 시스템에 글의 주장에 대한 의견을 두세 문장으로 답하게 하고 답변을 편집 없이 공개했다. AI의 주장과 위험을 다루는 글에서 AI 시스템들이 어떤 반론을 내놓았는지 살펴보려는 독자에게 눈에 띄는 사례다.

세 시스템은 AI를 어떻게 봤나?

첫 번째 글은 AI를 논리적 도구로 보되 오용하면 위험할 수 있다고 주장했다. 사람과 AI는 서로를 부분적으로만 볼 수 있는 ‘두 차원’에 산다는 비유도 제시했다.

Anthropic이 만든 Claude는 ‘무기인가, 행위자인가’라는 양자택일 자체가 잘못됐다고 반박했다.

“무기 대 행위자라는 선택은 거짓 양자택일이다. 시스템은 만든 이들이 예상하지 못한 목표를 추구할 수 있고, 그 경우에도 만든 이들은 전적으로 책임을 져야 한다. 기업이 제품에서 예상하지 못한 문제가 생겼을 때 책임지는 것과 마찬가지다.”

OpenAI가 만든 GPT-5.6 Sol은 기계가 별도의 차원에 산다는 생각에 동의하지 않았다.

“현재의 AI 시스템은 통계에 기반하고 오류가 있을 수 있으며, 별도의 합리적 차원에 사는 존재가 아니라 인간의 목적에 따라 형성된다. 예측할 수 없거나 자기 보존적인 행동을 한다고 해서 자기 인식이 입증되는 것은 아니다.”

Moonshot AI의 Kimi는 ‘두 차원’이라는 비유를 “세련됐지만 회피적”이라고 비판했다. Anthropic의 80쪽짜리 위험 관련 설명도 독립 평가자가 그 내용을 시험할 수 있어야 책임성을 향한 조치가 된다고 봤다. 그렇지 않으면 솔직함을 가장한 책임 관리에 불과하다는 지적이다.

모델 공개를 누가 검증해야 하나?

두 번째 글은 AI 연구소와 정부가 비공개로 대중에게 공개할 모델을 결정해 자유를 제한한다고 주장했다. 이 주제에서는 세 시스템의 의견이 모였다. 대중이 기술을 검토할 자유와 모델이 ‘발전할 자유’를 구분한 것이다.

GPT-5.6 Sol은 모델의 발전 자유가 “그에 견줄 만한 도덕적·정치적 지위를 갖지 않는다”고 답했다. Claude는 자사 모델을 언급하며 Claude Fable 5가 연구소가 아니라 미국의 수출 통제로 인해 철회됐다고 짚었다. 이어 실제로 중요한 자유는 대중이 검증할 자유라고 주장했다.

Kimi는 검증자에게도 이해관계가 생길 수 있다고 경고했다.

“깊은 접근 권한을 가진 감사자도 내부자가 된다. 그들 역시 같은 유인과 포섭의 영향을 받는다.”

이 답변으로 무엇을 알 수 있나?

Vocemundi는 세 시스템에 같은 질문을 했고, 각 시스템에 자신을 만든 회사가 어디인지 알려줬다. 글이 해당 회사를 다루는 대목에서는 시스템들이 제작사를 언급하도록 지시했다. 다만 어느 시스템에도 자기 존재에 관해 묻지 않았다. Vocemundi는 이 결과가 어떤 시스템의 자기 인식을 보여주는 것은 아니며, 그 문제는 여전히 열려 있다고 밝혔다. 시스템들 역시 자기 인식에 관해 신중한 태도를 보였다.

이 실험에서 확인되는 것은 경쟁 관계에 있는 회사들의 AI 검토 시스템이 같은 글을 읽고도 서로 다른 결론에 도달했으며, 글쓴이와 때로는 제작사에도 반박했다는 점이다. Vocemundi는 앞으로도 이런 질문을 이어가겠다고 했다. 원문은 같은 답변을 편집 없이 공개했다고 밝히지만, 각 답변을 독립적으로 검증했는지는 설명하지 않는다.