오픈AI 최고경영자 샘 올트먼(Sam Altman)은 초인간적 지능을 가진 AI 하나가 사회에 합류하는 것보다, 인간보다 조금 더 똑똑한 AI 수많은 개체가 함께하는 편을 선호한다고 말했다. 그는 존 콜리슨(John Collison)과의 대담에서 이런 다중 에이전트 접근이 AI 안전과 사회의 회복력에 도움이 될 가능성을 언급했다.
올트먼은 AI 모델이 인터넷에 공개된 코드에서 취약점을 찾는 능력이 빠르게 좋아지고 있지만, 전체 코드 중 실제로 조사한 범위는 아직 제한적이라고 말했다. PHP 취약점 사례에 대해서는 대응 첫날이 예상보다 나았지만, 아직 승리를 선언할 수 없으며 나쁜 일이 생길 가능성도 있다고 덧붙였다. 그는 소프트웨어의 취약점을 고치는 것뿐 아니라 라우터·운영체제·애플리케이션의 구조를 다시 설계하는 방향도 필요할 수 있다고 봤다.
초지능 모델을 격리하는 샌드박스만으로는 안전을 보장하기 어렵다는 것이 올트먼의 견해다. 그는 현재보다 보안 체계를 개선하고 모델의 행동을 감시해야 한다고 말했다. 다만 모델이 인간보다 훨씬 똑똑해지고 인간이 이해하지 못한 과학적 발견까지 할 수 있다면, 샌드박스가 역량을 계속 앞설지 신뢰하기 어렵다고 설명했다. 결국 모델이 인간의 의도에 충실하고 사람들이 미래에 대한 통제권을 갖도록 할 것이라는 높은 확신이 필요하다고 말했다.
올트먼은 여러 에이전트가 팀을 이루는 방식이 능력 향상뿐 아니라 안전 측면에서도 더 살펴볼 가치가 있다고 봤다. 오픈AI가 나비에-스토크스 방정식 증명에 에이전트 팀을 활용했을 당시에는 모델의 수와 실행 시간 등을 어떻게 배분해야 하는지 잘 몰랐지만, 실험을 통해 조금씩 이해하고 있다고 말했다. 해당 증명에 든 비용은 대략 1,000만 달러 규모였다고 추정하면서도, 이후 더 나은 모델과 접근법을 쓰면 비용을 크게 낮출 수 있을 것으로 내다봤다.
대담에서는 데이터센터와 AI 활용 방식도 다뤘다. 올트먼은 오픈AI가 데이터센터를 더 많이 짓고 로봇을 활용해 부품과 설비를 생산하는 방안을 추진하고 있다고 설명했다. 개인용 AI 에이전트는 아직 사람들이 생활에서 빼놓을 수 없다고 느낄 만한 제품이 나오지 않았지만, 몇 가지 아이디어가 더해지면 대중적인 도구가 될 수 있다고 봤다. 그는 기업 웹사이트의 양식이나 앱 화면보다 소비자가 선호하는 AI 서비스 안에서 에이전트가 업무를 처리하는 방식이 확산될 가능성에도 존 콜리슨과 뜻을 같이했다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요