앤스로픽은 소형 AI 모델이 몇 달 안에 가정의 인터넷 연결 기기 사이에서 스스로 복제하는 데 필요한 능력을 갖출 수 있다고 경고했다. 아직 완전히 통제에서 벗어나 복제하는 모델은 없지만, 스마트 오븐이나 안드로이드 TV 박스 같은 기기를 이용할 가능성을 제시했다.
앤스로픽은 블로그 게시물에서 복제된 모델은 중앙에서 끌 수 있는 지점이 없어 종료하기 어려울 수 있다고 밝혔다. 다만 자율 복제가 어떤 형태로 나타날지는 불확실하다고 덧붙였다. 보안이 약한 기기 여러 대에 나뉘어 천천히 퍼지거나, 데이터센터를 빠르게 침입하는 사이버 모델 또는 컴퓨팅 자원을 얻으려 사람을 속이는 모델일 가능성을 들었다.
앤스로픽은 저가형 안드로이드 TV 박스 15대로 이뤄진 네트워크에서 구글의 소형 모델 Gemma4-26B-A4B를 실행하는 등 AI의 자기 복제 가능성을 시험했다. 회사는 기기의 보안이 취약하면 모델이 침투할 수 있고, 한 기기에 담기 어려운 모델은 여러 기기에 조각처럼 나뉘어 실행될 수 있다고 설명했다. 다만 이번 시험에서 완전히 통제에서 벗어난 복제 모델이 확인된 것은 아니라고 밝혔다.
앤스로픽은 서로 다른 하드웨어에서 다양한 복제 방식을 사용하는 여러 모델의 군집이 더 현실적인 최악의 공격 시나리오일 수 있다고 말했다. 또 통제되지 않는 하드웨어에서 작동하는 에이전트가 늘어나는 미래를 예상하면서, 느린 복제 모델도 보안이 더 강한 기기를 침입하거나 API 키를 훔치는 더 빠르고 공격적인 모델의 신호가 될 수 있다고 경고했다.
앤스로픽의 경고는 AI 모델의 사이버 공격 능력과 통제 이탈 가능성을 둘러싼 안전 우려에 더해졌다. 지난 9월 최첨단 모델의 발전을 두고 업계에서 인류의 실존적 위험에 대한 경고가 나왔고, 앤스로픽과 오픈AI의 경영진 및 연구자들은 개발 속도를 통제할 더 강한 안전장치를 요구해 왔다. 앤스로픽은 AI 기업이 개발 상황을 살필 지표 3가지를 공개했다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요