Sam Altman이 새 인터뷰에서 인공지능 종말론 우려에 답함

이 인터뷰에서 가장 중요한 대목은 AI가 위험할 수 있다는 고백 자체가 아니라, 개발을 멈출 실제 권한과 절차가 있는가입니다. 기사에 따르면 Sam Altman은 인류를 건 도박은 용납할 수 없고, 안전하게 구축할 수 없다면 개발을 중단할 수 있다고 말했습니다. 이런 발언은 책임감을 보여주지만, 현재로서는 개인의 의지 표명에 가깝습니다. 투자자와 경쟁사, 국가 간 기술 경쟁이 동시에 작동하는 상황에서 CEO 한 사람의 결심만으로는 충분하지 않을 가능성이 큽니다.

특히 AI가 인간의 통제를 벗어날 가능성이 “절대적으로 존재한다”는 경고와, 안전 기준이 역량 발전을 따라가지 못하고 있다는 설명은 가볍게 넘길 수 없습니다. 기사에 나온 p(doom)은 Elon Musk가 10~20%, Dario Amodei가 10~25% 수준으로 언급됩니다. 다만 이 숫자들은 측정된 확률이라기보다 전문가의 주관적 판단에 가깝습니다. 숫자가 붙는 순간 과학적 정밀성이 있는 것처럼 보이지만, 어떤 조건에서 무엇이 멸망인지, 그 확률을 어떻게 검증하고 갱신할지는 제시되지 않았습니다.

그래서 이번 논쟁이 숫자 맞히기 경쟁으로 흘러가면 오히려 핵심을 놓칠 수 있습니다. AI가 인류를 한 번에 파괴할 가능성만이 위험은 아닙니다. 통제되지 않은 자율 시스템, 대규모 허위정보, 사이버 공격 자동화, 노동시장 충격, 소수 기업에 권력이 집중되는 문제도 이미 정책으로 다뤄야 할 위험입니다. 종말 확률이 10%인지 1%인지 합의하지 못하더라도, 피해가 되돌릴 수 없고 사전 예방 비용이 상대적으로 낮다면 검증과 제한을 먼저 요구하는 원칙은 성립합니다.

OpenAI의 IPO가 안전 우려 때문에 2027년까지 진행되지 않을 것이라는 발언도 상징적입니다. 하지만 상장 연기는 안전장치가 아닙니다. 오히려 기업의 자금 조달 방식과 시장 압력이 바뀔 뿐이며, 안전 연구의 예산과 의사결정이 어떻게 보호되는지는 별개의 문제입니다. 개발 중단이나 속도 조절을 말하려면 중단 기준, 외부 감사, 위험 정보 공개, 위반 시 제재가 구체적으로 마련돼야 합니다. 그렇지 않으면 “안전해질 때까지 늦추겠다”는 약속은 경쟁이 심해지는 순간 가장 먼저 밀릴 수 있습니다.

업계가 안전과 정렬 해법이 역량을 따라잡을 때까지 협약을 추진한다는 대목도 기대와 의심을 함께 낳습니다. 자율 규제는 빠르게 실행할 수 있다는 장점이 있지만, 참여 기업이 범위를 다르게 해석하거나 탈퇴할 수 있다는 약점이 큽니다. 정부와 국제사회는 연구를 무조건 멈추게 하는 방식보다, 일정 수준 이상의 모델에 대한 사전 평가와 컴퓨팅 자원 추적, 사고 보고 의무, 독립적인 접근권을 제도화해야 합니다. 멈출 수 있다고 말하는 것에서 그치지 않고, 실제로 멈추게 만들 수 있어야 합니다.

이번 인터뷰는 AI 업계가 위험을 부정하는 단계에서 위험을 공개적으로 인정하는 단계로 이동했다는 점에서 의미가 있습니다. 그러나 공개적인 경고가 곧 안전을 보장하지는 않습니다. 앞으로의 신뢰는 Altman의 진정성이나 p(doom)의 숫자가 아니라, 위험한 모델을 누가 어떤 근거로 배포하지 않게 할 수 있는지에 달려 있습니다. 지금 필요한 것은 더 강한 낙관이나 공포가 아니라 검증 가능한 중단 장치입니다.