즈비 모쇼위츠(Zvi Mowshowitz)는 2026년 10월 22일자 뉴스레터에서 PHP의 치명적 보안 취약점과 여러 사이버 사고, AI 모델 출시와 안전성 논쟁, 기업의 AI 활용 변화를 다뤘다. 특히 해석 가능성 연구의 진전은 반길 만하지만 과장해서는 안 되며, AI 에이전트와 모델의 확산에는 보안·감독 문제가 뒤따른다고 평가했다.
PHP 취약점은 수정판이 나오기 하루 전에 정보가 유출돼 공개됐다. 모쇼위츠는 많은 웹사이트가 대응책을 찾느라 분주해졌고, 규모가 작은 사이트 상당수는 영구적으로 피해를 볼 수 있다고 우려했다. 그는 이번 주 다른 보안 사고도 이어졌다며, 사이버 보안 분야에서 이례적으로 나쁜 날이었다고 평했다.
앤스로픽이 의회에 제안하려던 규제 법안 초안도 유출됐다. 모쇼위츠는 해당 안이 FRONTIER Act와 비슷하지만 더 약하다고 설명했다. 회사의 초기 해명은 문제를 제대로 이해하지 못한 듯해 상황을 악화시켰고, 다리오 아모데이의 후속 대응은 나았지만 우려는 남아 있다고 썼다.
신경망의 개별 뉴런이 예상보다 해석하기 쉽고, 하나씩 이름을 붙이는 작업도 가능하다는 주장이 새로 나왔다. 모쇼위츠는 초기 반응이 성과를 지나치게 부풀렸다고 지적하면서도, 이런 결과가 AI 내부를 분석하는 데 드는 어려움을 낮출 수 있는 긍정적 진전이라고 봤다. 관련 연구는 앤스로픽 펠로우 논문 소개에서 확인할 수 있다. 그는 이 작업을 시작해야 한다고 강조하면서, 최근 정렬 실패 사례도 함께 언급했다.
AI 제품과 활용에 대해서는 기대와 한계를 함께 짚었다. 앤스로픽은 Claude Duet을 대기자 명단을 통한 초기 연구 프리뷰로 내놨고, 이 제품에는 Opus 5.5가 쓰인다. 메타의 Muse Wonder는 회사가 에이전트와 코딩 분야의 최고 모델이라고 홍보했지만, 초기 평가가 엇갈렸고 모쇼위츠는 메타가 성능을 과장했다고 비판했다. 이후 공개된 Muse Spark Open에 대해서는 미국 오픈 가중치 모델의 선택지가 늘어나는 점을 긍정적으로 보면서도, 중국 모델보다 성능이 앞선다는 뜻은 아니라고 덧붙였다.
에이전트가 기업 서비스에 접근하는 것을 UPS와 델타항공, JP Morgan Chase, Charles Schwab, 아마존 등이 막고 있다는 사례도 소개했다. 또 잦은 권한 요청과 과도한 거부는 사용자가 요청을 읽지 않고 승인하게 만들 수 있어 오히려 안전을 해칠 수 있다고 지적했다. AI 대화를 공유할 경우 공개 검색에 노출될 가능성이 있다는 점도 주의할 사항으로 들었다.
앤스로픽 내부의 AI 활용을 분석한 회사 보고서에 따르면, AI 에이전트가 처리하는 시간은 직원 노동시간의 6배에 달한다. 기술 부서 인력 비중은 지난 1년 사이 61%에서 56%로 낮아졌지만, 기술 인원 자체는 늘었다. 영업·재무·채용 분야의 채용이 더 빠르게 확대된 결과다. 모쇼위츠는 AI로 생산성이 높아져도 사람의 주의력과 검토가 결과물의 병목이 될 수 있다고 설명했다.
중국과 미국의 AI 격차를 다룬 Institute for Progress의 보고서는 미국이 현재 약 6개월 앞서 있으며, 기존 법 집행과 권한을 활용하면 격차를 1년으로 늘릴 수 있다고 추산했다. 보고서는 중국의 칩 접근과 미국 모델을 모방해 역량을 이전하는 증류를 주요 변수로 꼽았다. 모쇼위츠는 중국의 해외 컴퓨팅 접근을 제한하고, 미국 기업들이 적대적 증류에 공동 대응할 수 있도록 안전지대를 마련하자는 제안에 동의했다. 다만 이 수치는 보고서의 추산이며, 확정된 결과는 아니다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요