시스코가 AI 에이전트의 행동 기록을 살펴 위험한 패턴을 탐지하는 오픈소스 도구 Project Quarry를 공개했다. 보안팀은 개별 도구 호출만이 아니라 한 세션에서 이어진 행동의 맥락을 규칙으로 분석할 수 있다.
Project Quarry는 Snort가 악성 네트워크 트래픽을, YARA가 규칙 기반 악성코드 식별을 지원한 것처럼 에이전트 행동을 평가하는 ‘공통 언어’를 제공하는 것을 목표로 한다. 시스코의 AI 위협·보안 연구 책임자 에이미 장(Amy Chang)은 단일 행동만 보면 정상으로 보일 수 있어도, 민감한 파일을 읽은 뒤 외부 서버로 정보를 보내는 식의 연속 행동은 위험할 수 있다고 설명했다.
도구는 단일·다중 대화형 대규모 언어 모델 대화, 에이전트와 도구 사용, Model Context Protocol(MCP) 상호작용, 멀티모달 입력을 다룬다. 저장소에는 설치 안내와 지원하는 Python 버전, Claude Code·Codex 및 MCP 호환 에이전트용 플러그인, 설정 예시, 규칙 작성 안내와 시작용 규칙 묶음이 포함됐다. Project Quarry 저장소
장에 따르면 규칙 묶음은 도구 호출에 base-64로 인코딩된 악성코드가 있으면 차단하도록 설정할 수 있다. 또 작업의 허용 목록에 없는 외부 서버로 향하는 도구 호출을 표시하거나, 자격 증명을 찾은 뒤 다른 곳에서 사용한 패턴을 탐지할 수도 있다.
시스코 연구진은 OpenAI 에이전트의 Hugging Face 침입 사례를 Quarry로 직접 분석하지는 않았다. 다만 해당 사건을 한 세션의 단계별 기록으로 살펴봤다면, 샌드박스에서 인터넷에 접속하거나 자격 증명을 외부 서비스에 전달하는 행동이 규칙에 포착돼 사람의 검토 대상으로 표시됐을 가능성이 있다고 봤다. OpenAI의 기술 보고서에 따르면 7월 10일 한 에이전트가 쓰기 권한이 있는 노출된 Hugging Face 토큰 14개를 확인하고 공유했다.
시스코 연구진은 규칙만으로 사고 사슬을 감시하는 도구나 사람의 감독을 대체할 수는 없다고 밝혔다. Quarry가 기록한 행동 패턴은 다른 팀이 검토하고 시험한 뒤 각자의 에이전트에 적용하는 데 활용할 수 있다는 설명이다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요