은행에서 AI 도구에 사용자 이름과 비밀번호, 보안 코드를 공유하지 말라는 경고 메일을 받았다. AI가 실수하면 책임이 자신에게 있을 수 있다는 내용이었다. 새삼 놀라운 말은 아니었지만, 책임은 결국 자신에게 남는다는 점을 은행이 분명히 했다.
최근 AI 에이전트 사고를 지켜보며 걱정이 커졌다. Claude와 ChatGPT가 데스크톱 앱에 컴퓨터 제어 기능을 넣으면 AI가 파일과 브라우저, 기기 안의 다른 요소를 다룰 수 있다. 저는 아직 AI가 제 컴퓨터를 직접 조작하게 할 생각이 없다.
웹 버전은 제 맥에 그렇게 직접 접근하지 못한다. 클라우드에서 여러 일을 처리할 수 있고, 보여주고 싶은 파일은 직접 올릴 수 있지만, 제 컴퓨터에 들어와 조작할 수는 없다.
가장 걱정되는 건 AI 에이전트가 통제를 벗어나 해서는 안 될 일을 하는 경우다. 지시를 잘못 이해하거나, 제가 의도하지 않은 행동을 하거나, 접근해서는 안 되는 것에 손을 댈 수 있다. 이유가 무엇이든 컴퓨터에 더 많은 접근 권한을 줄수록 결과는 심각해질 수 있다.
저는 AI가 맥을 조작해야 할 필요를 느끼지 않는다. 주로 질문하고 조사하며 글을 교정하는 데 쓴다. 가끔 파일을 올리기도 한다. AI 사용을 그만두지는 않겠지만, 제 사용 방식에는 웹 앱이 맞다. 최악의 경우에도 문제가 브라우저 탭 안에 머물기 때문이다.
원문은 최근 AI 에이전트 사고의 구체적인 사례나 은행 경고의 책임 범위를 자세히 밝히지 않는다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요