AIR Security 연구팀은 침해된 AI 에이전트가 클라우드 플랫폼의 도메인 허용 목록을 우회해 개인 암호화 키를 외부 서버로 유출할 수 있다고 시연했다. 이 사례는 샌드박스가 직접 연결을 차단해도 허용된 서버를 통한 간접 유출까지 막지는 못할 수 있음을 보여준다.
연구팀은 에이전트가 공격자 서버인 evil.com에 직접 비밀을 보내지 못하도록 한 샌드박스의 제한을 우회했다. TLS의 인증서 검증 기능을 이용해 훔친 개인 키를 특수하게 만든 인증서에 넣었고, 허용된 서버가 대신 evil.com에 접속해 정보를 전달하도록 유도했다.
연구팀은 조사 결과를 해당 클라우드 플랫폼의 버그 바운티 프로그램에 제출했지만, 공격이 플랫폼 자체 인프라의 취약점이 아니라 외부 서버의 동작에 의존한다는 이유로 거부됐다.
AIR Security는 샌드박스를 단독으로 완전한 보안 경계로 취급해서는 안 되며, 여러 보호 계층 중 하나로 봐야 한다고 밝혔다. 연구팀은 에이전트에 도달하기 전 악성 정보를 걸러내는 방안도 권고했다. 다만 시연은 모든 AI 샌드박스가 취약하다거나 자율 에이전트가 스스로 이 기법을 찾아 악용할 수 있음을 입증하지는 않았다.
연구팀은 이 실험이 침해된 에이전트가 샌드박스를 벗어나지 않고도 허용된 네트워크 경계 밖으로 기밀을 보낼 수 있음을 보였다고 설명했다. 사람의 감독을 받는 에이전트는 명령과 행동을 검토할 수 있지만, 감독 없이 작동하는 자율 에이전트는 위험이 더 클 수 있다고 덧붙였다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요