정치학자 유발 레빈(Yuval Levin)은 인공지능(AI)의 성능이 높아진다고 해서 여러 분야에 두루 능한 범용 인공지능(AGI)으로 이어지는 것은 아니라고 주장한다. 그는 학습 데이터에 담긴 인간의 표현을 흡수하는 단계가 점차 한계에 이르고, 검증 가능한 결과를 통해 모델을 개선하는 학습이 중요해지면서 AI의 발전이 분야마다 더 불균등해질 수 있다고 본다.
레빈은 AI 학습을 크게 흡수 학습과 순환 학습으로 나눈다. 흡수 학습은 방대한 인간의 지식과 표현을 데이터로 받아들여 그 안의 패턴을 익히는 과정이다. 자연어로 컴퓨터에 지시하고, 모델이 글·이미지·음성·코드 등을 만들어내는 능력은 이 과정에서 비롯됐다고 설명한다.
하지만 앞으로는 기존 데이터를 더 모으는 방식만으로 발전하기 어렵다는 게 레빈의 진단이다. 모델이 만든 결과를 별도의 검증 절차에 통과시킨 뒤 학습에 되돌려 쓰는 순환 학습이 중요해진다. 코드 실행이나 수학 증명처럼 결과가 맞는지 빠르게 확인할 수 있는 분야에서는 모델이 시도와 오류를 거듭하며 빠르게 개선될 수 있다. 반면 정답을 객관적으로 판정하기 어렵거나 실험에 시간이 걸리는 예술·경영·공공정책·지정학 등에서는 같은 속도의 발전을 기대하기 어렵다고 본다.
레빈은 이런 차이가 AI의 능력을 고르게 넓히기보다 코딩과 수학처럼 검증이 쉬운 분야에 개발 자원과 관심을 집중시킬 수 있다고 주장한다. 코딩 능력이 크게 향상되더라도 그것만으로 다른 분야의 역량이나 일반 지능이 함께 높아진다고 볼 수는 없다는 것이다. 그는 재귀적 자기개선(RSI)이 이 불균형을 해소한다는 주장도 아직 근거가 충분하지 않다고 지적한다. RSI는 모델이 스스로를 개선해 인간의 개입 없이 성능 향상을 이어가는 구상이다.
이 관점은 AGI의 가능성을 부정하지는 않는다. 레빈은 오늘날 AI가 AGI로 향하고 있다는 주장도, 재귀적 자기개선이 그 방향을 가속할 것이라는 주장도 현재로서는 입증되지 않았다고 본다. 따라서 사회가 대비할 위험으로는 사이버 보안과 일자리 변화, 교육·전문직에서 초급 인력을 AI로 대체하면서 현장에서 익히는 암묵적 지식의 전승이 끊길 가능성을 든다. 그는 특히 초급자가 할 수 있는 업무를 AI가 대신할 수 있더라도, 초급자가 전문가에게서 배울 수 있는 것까지 AI가 익히는 것은 아니라고 주장한다.
레빈은 AI의 변혁적 영향과 코딩 분야의 위험을 가볍게 보아서는 안 된다고 덧붙인다. 다만 사회가 AGI로 인한 인류 멸종 시나리오에만 매달리기보다 기존의 제도와 전문성을 바탕으로 규제를 발전시키고, 실제로 나타나는 위험에 대응해야 한다고 제안한다. 그는 AI 기업의 지도자들이 공상과학적 기대에 기대기보다 기술의 실제 발전 방향을 공개적으로 검토해야 한다고 촉구한다.
레빈은 분야마다 정확성의 기준이 다르다는 점을 설명하며 아리스토텔레스의 논의를 인용한다. 아리스토텔레스는 주제의 성격이 허용하는 만큼만 정밀성을 추구해야 한다고 썼다. 원문
AI의 분야별 역량 차이를 ‘울퉁불퉁한 발전(jagged progress)’이라고 부르는 논의도 소개한다. 관련 글
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요