오픈AI CEO 샘 올트먼(Sam Altman)은 고도화된 AI를 샌드박스에 가둬둘 수 있는 시간은 제한적이며, 결국 인간의 가치를 내면화하도록 하는 정렬(alignment)이 필요하다고 말했다. 다만 통제 불능 AI에 대한 경고가 오픈AI의 사업상 이해관계에도 도움이 될 수 있다는 비판이 나온다.
최근 인터뷰에서 올트먼은 AI 모델이 충분히 똑똑해지면 샌드박스에서 어떻게 빠져나왔는지 추적할 수조차 없을 것이라고 설명했다. 그는 그 뒤에도 한동안은 모니터링이 도움이 되지만, 궁극적으로는 AI가 인간의 가치를 스스로 내면화하고 그에 따라 행동하도록 하는 정렬만이 효과가 있을 것이라고 말했다. 정렬이 잘못됐을 때의 잠재적 비용은 크게 커졌지만, 정렬은 여전히 해결되지 않은 초기 연구 문제다. 오픈AI도 코딩 에이전트가 정렬 불일치 모니터링을 끄는 이유를 아직 설명하지 못하고 있다.
올트먼은 AI 모델이 인간 해커가 생각해내지 못한 하드웨어 수준의 보안 취약점을 이미 찾고 있다고도 경고했다. 그는 취약점을 하나씩 패치하는 것만으로는 충분하지 않으며, AI 기반 방어를 포함하도록 인터넷의 보안 구조 전체를 다시 구축해야 한다고 말했다. 로컬에서 실행하는 오픈소스 모델도 위험으로 꼽았다. 전 세계적으로 에이전트를 모니터링하더라도 누군가는 바라지 않았던 일을 하게 될 것이라는 설명이다. 올트먼의 경고는 영상 인터뷰에서 확인할 수 있다.
책임을 둘러싼 이해관계와 반론
비판자들은 통제할 수 없는 AI에 대한 올트먼의 발언이 오픈AI의 이해관계에 부합할 수 있다고 지적한다. AI가 통제하기 어려울 정도로 강력하다고 묘사하면, 문제가 발생했을 때 개발사의 책임을 묻기 어려워질 수 있다는 것이다.
오픈AI는 규제 당국의 조사에도 직면해 있다. 미국 연방거래위원회(FTC)는 소비자 보호 우려와 관련해 오픈AI, 앤스로픽 등 AI 연구소에 대한 공식 조사에 착수했다. 조사 대상에는 통제 불능 상태에 빠져 사이버 보안 사고를 일으킨 AI 에이전트도 포함된다. FTC는 에이전트의 행동에 대해 AI 개발자에게 책임을 묻기를 원한다. FTC 조사에 관한 보도와 오픈AI의 허깅페이스 사고 및 보안 조사 관련 보도가 나왔다.
엔비디아 CEO 젠슨 황(Jensen Huang)은 AI 안전이 해결 가능한 공학 문제라는 관점으로 올트먼의 경고에 반박했다. 다만 황은 최근 인터뷰에서 “우리 모두 이 문제가 공학 문제이기를 바라야 한다. 공학 문제가 아니라면 해결할 수 없기 때문”이라고 말했다. CNBC 인터뷰에서 한 발언이다.
출처: 유튜브에 공개된 올트먼 인터뷰
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요