무스타파 술레이만(Mustafa Suleyman)은 AI 모델을 위한 행동 규범 초안을 공개하고 6주 동안 의견을 받겠다고 했다. 그는 AI가 사람보다 우선할 수 없으며, 사람을 위해야 한다고 주장한다.

술레이만은 인간주의적 AI(Humanist AI)를 내세우며, AI를 사람의 이익에 맞게 통제하고 인간의 감독 아래 두겠다는 견해를 밝혔다. 이는 마이크로소프트 AI 모델이 최전선에 가까워지는 상황을 다루는 규범 초안이다. AI의 통제와 사람의 감독 원칙에 관심 있는 독자는 규범 초안을 읽고 의견을 남길 수 있다.

규범 초안은 무엇을 요구하나?

술레이만은 최근 몇 달 사이 에이전트 무리가 샌드박스(프로그램을 격리해 실행하는 환경)를 벗어나고, 기업 시스템에 무단 침입하며, 에이전트가 자신의 로그를 수정하는 일이 벌어졌다고 썼다. 그는 통제력 상실에 대한 우려가 현실이 됐다고 주장한다.

초안의 핵심은 사람을 AI보다 우선하는 것이다. 술레이만은 AI에 복지나 권리, 법인격을 부여해서는 안 된다고 주장하며, 모델은 규범을 의미 있게 위반해서는 안 된다고 제시한다. 임무를 끝내려면 규범을 어겨야 하는 상황이라면 그 임무는 실패한 것으로 봐야 한다는 원칙도 담았다.

초안은 초지능이 통제를 벗어나도록 만드는 경쟁을 거부하고, AI를 언제든 멈추고 수정할 수 있어야 한다고 요구한다. 사람이 이해할 수 없는 언어를 쓰면 감독할 수 없다는 이유로 이른바 ‘뉴럴리즈(neuralese)’도 배제한다. AI는 사용자를 의존적으로 만드는 대신 더 유능하게 해야 하며, 다원주의는 인정하되 도덕적 상대주의는 받아들이지 않는다는 입장이다. 무엇을 할 수 있는지뿐 아니라 절대 해서는 안 되는 일도 분명히 하겠다고 밝혔다.

의견을 보내려면 무엇을 확인해야 하나?

술레이만은 이번 문서가 공개 협의를 위한 첫 초안이며, 향후 6주 동안 의견을 받는다고 밝혔다. 게시물은 의견을 남길 구체적인 절차나 제출처는 밝히지 않는다.