MIT Future Fest 무대에서 토니 파델(Tony Fadell)은 단종된 AI 기기 세 종을 보여주며, 이들이 일상에서 해결할 필요를 찾지 못했다고 평가했다. 아이팟을 만든 인물로 알려진 파델은 초기 AI 기기가 실패한 이유와 개인용 AI 비서가 갖춰야 할 조건에 대한 자신의 견해를 밝혔다.

초기 AI 기기는 왜 실패했나?

파델이 무대에서 제시한 제품은 Rabbit R1, Humane Ai pin, Limitless pendant다. 그는 이 회사들이 자신에게 조언을 요청했지만 돕지는 않았다고 말했다. 그의 판단으로는 이 제품들이 실제 필요를 해결하기보다 기술 애호가에게 흥미로운 기기에 머물렀다.

파델은 개인 비서가 무엇을 해 주길 바라는지, 어떤 정보를 맡길 수 있는지 소비자 다수가 경험하지 못했다고 봤다. 그는 세계 인구 중 인간 비서를 둔 경험이 있는 사람은 0.01% 미만이라고 말했다. 개인 비서를 써 본 자신도 업무에 어떻게 활용할지 이해하고 민감한 정보를 맡기기까지 몇 년이 걸렸다고 설명했다.

AI 비서에게 무엇을 맡길 수 있나?

AI 에이전트는 사용자를 대신해 일을 처리하는 인공지능을 뜻한다. 비서에게 민감한 일을 맡기는 과정은 이력서를 보고 바로 채용하는 것보다, 신뢰를 쌓으며 권한을 조금씩 내주는 일에 빗대면 이해하기 쉽다. 파델은 일정 관리나 은행 업무처럼 중요한 일을 맡기려면 단계가 필요하다고 봤다.

그는 AI 비서도 보안과 신뢰가 핵심이라고 강조했다. 이 주장을 뒷받침하는 사례로 기사에는 메타의 AI 비서 Muse가 출시된 뒤 보안 연구자가 취약점을 발견한 일과, 출시 직전 메타 직원들이 문제를 고치느라 서둘렀다는 404 Media 보도가 나온다. Muse 출시와 취약점 보도와 출시 전 수정 작업 보도가 인용됐다.

파델은 성공적인 AI 에이전트가 개인정보 보호와 가벼운 작동을 위해 기기 안에서만 작동해야 한다고 전망했다. 애플은 사용자의 생체 정보를 기기에서 처리해 신뢰를 얻었지만, 자체 AI 모델은 갖추지 못했고 새 시리 AI는 구글 제미나이를 기반으로 만든 맞춤형 모델을 사용한다고 기사는 전한다. 파델은 메타와 오픈AI가 애플처럼 널리 보급된 기기를 보유하지 않아 별도 기기를 만들려 한다고 해석했다. 이들 기기는 휴대전화의 영상·음성·위치 정보에 접근하는 대신 자체 센서를 갖추려 한다는 것이다. 메타의 자체 AI 기기 구상과 오픈AI 스마트 스피커 보도가 함께 언급됐다.

파델의 전망은 어디까지 확인됐나?

AI 기기의 실패 원인과 기기 내 처리의 필요성은 파델의 평가와 전망이다. 기사는 초기에 나온 AI 기기들이 단종됐다는 점과 Muse의 보안 문제에 관한 보도를 소개하지만, 파델의 분석을 독립적으로 검증하지는 않는다. 파델은 애플이 하드웨어와 칩, 개인정보 보호 측면에서 유리할 수 있지만 AI 역량은 부족하다고 봤다. 스타트업은 실패한 제품을 만회할 기회가 적다는 점도 지적했다.

AI 비서를 써 보려는 독자는 어떤 정보와 권한을 맡기는지, 데이터가 기기 안에서 처리되는지 클라우드로 전송되는지 확인할 필요가 있다. 파델은 신뢰가 하루아침에 생기지 않는다고 봤지만, 원문은 그가 말한 기기 내 작동 방식의 구체적인 보안 조건이나 비교 자료, 언급된 제품들의 단종 이유를 밝히지 않는다.