사티아 나델라(Satya Nadella) 마이크로소프트 최고경영자는 모든 AI 모델을 처음부터 침해된 상태로 가정하고 격리해야 한다고 주장했다. 권한 있는 사람이 모델의 작업을 중단하거나 종료할 수 있어야 한다고 했다.

나델라는 X에 올린 긴 글에서 고도화된 AI 모델의 위험과 대응책을 다뤘다. AI 모델을 사용하는 조직이 그 조언과 행동을 무조건 받아들이거나 거부하는 ‘겹겹의 블랙박스’에 의존해서는 안 된다는 입장이다. 그는 모델을 통제하고 관찰할 수 있으며, 변조 방지된 사람이 읽을 수 있는 증거를 남기는 체계를 요구했다.

나델라가 제안한 다른 조치로는 사고를 신속히 공개하는 일, 독립적인 감사, 검증 가능한 데이터 확보, 모델 격리가 있다. 특히 모델을 처음부터 침해된 것으로 간주하고 격리하자는 제안은 업계의 다른 인사들보다 더 나아간 것으로 보인다고 보도했다. 나델라는 고도화된 모델에는 더 발전된 격리 기술이 필요하며, 이를 표준화해야 한다고 했다.

모델이 침해됐다고 가정하고 처음부터 격리해야 한다. 비상 브레이크처럼 생각하면 된다. 권한 있는 사람은 작업 도중에도 언제든 모델을 멈추거나 종료할 수 있어야 한다.

나델라는 게시물 전반에서 AI를 ‘초지능’이라고 부르기도 했다. 다만 보도는 제안의 효과나 실행 방식에 관한 별도 검증을 제시하지 않는다. 나델라의 X 게시물에서 구체적인 격리 기술과 표준화 방안을 확인할 수 있다.