AgentTrust는 AI 에이전트 권한과 실행을 통제한다

AgentTrust는 여러 AI 에이전트 프레임워크에서 에이전트 권한을 제한하고, 위험한 작업에 사람의 승인을 요구하며, 감사 기록을 검증하도록 설계된 보안 인프라다. 프로젝트는 LangChain, CrewAI, AutoGen, OpenAI Assistants, Anthropic Tool Use와 사용자 지정 런타임을 지원한다고 설명한다.

에이전트 권한과 위험 작업 통제

AgentTrust의 주요 기능 가운데 하나는 여러 단계의 에이전트 위임이다. 오케스트레이터 에이전트는 권한 범위를 암호학적으로 축소한 하위 에이전트를 만들 수 있다. 하위 에이전트는 부모가 가진 권한의 일부만 물려받으며, 부모에게 없는 권한을 위임하려 하면 Attenuation Violation으로 거부된다. 예산 한도도 부모의 잔여 예산 범위에서 상속한다. 부모 에이전트를 정지하거나 폐기하면 모든 하위 에이전트에도 조치가 적용된다.

프로젝트가 제시한 위험 평가 기능은 작업 전 가역성, 재정적 노출, 보안 경계 민감도를 결합한다. 가역성 계수(R)는 0.0~1.0 범위로, 반복 실행해도 상태가 바뀌지 않는 읽기 작업은 0.05, 확정 전 초안은 0.2, 상태 변경은 0.55, 외부 송금이나 배포는 0.85, 파괴적 삭제는 1.0으로 제시한다. 재정적 노출(F)은 예상 미국 달러 비용을 바탕으로 한 로그형 영향 곡선을 사용하고, 민감도(S)는 프로덕션 데이터베이스, 자격 증명, PCI, HIPAA, 마스터 볼트 등을 감지한다. 종합 위험 점수가 0.65 이상이면 일반 규칙이 허용했더라도 사람의 검토를 의무화한다.

감사 기록과 비상 대응

암호화 서명과 오프라인 검증 기능은 순차 SHA-256 감사 원장의 마지막 항목에 ECDSA P-256 비대칭 키로 서명하고, 독립된 CheckpointManifest 인증서를 만든다. 정기적으로 또는 요청에 따라 체크포인트를 생성할 수 있다. 외부 감사자는 데이터베이스에 접근하지 않고 인증서에 포함된 공개 키로 서명을 검증할 수 있다고 프로젝트는 설명한다.

전역 비상 킬 스위치는 보안 담당자가 모든 활성 에이전트 자격 증명을 일괄 폐기하거나 정지하는 기능이다. 프로젝트는 이 작업이 15밀리초 미만에 이뤄지며, 대기 중인 일회용 실행 티켓을 모두 소진하고 원인 분석을 위한 사후 포렌식 ECDSA 체크포인트를 생성한다고 명시한다.

규제 준수 평가 기능은 EU AI Act 제14조(인간 감독)에 따라 사람의 승인 비율, 재생 공격 방지, 승인 지연 시간을 측정하고, 제12조(기록 보관과 추적 가능성)에 따라 해시 체인 무결성과 서명된 체크포인트를 지속해서 확인한다고 설명한다. NIST AI Risk Management Framework 1.0의 GOVERN, MAP, MEASURE, MANAGE 점수와 SOC 2 Type II의 신뢰 서비스 기준인 CC6.1(접근 통제), CC6.8(감사 추적)도 평가 항목에 포함한다.

위협 모델과 설치

프로젝트의 STRIDE 위협 모델은 위협별 공격 방식과 대응책을 다음과 같이 정리한다.

로컬 설치에는 Node.js 20.x 이상과 npm 10.x 이상이 필요하다. 프로젝트 디렉터리에서 의존성을 설치하고, 프런트엔드 자산을 빌드한 뒤 서버를 실행한다.

# 1. Clone/navigate to project
cd "d:\Important Doc\agent-trust"

# 2. Install dependencies
npm install
npm --prefix client install

# 3. Build frontend assets
npm run build:client

# 4. Start backend server & dashboard (runs on port 4000)
npm run server

서버와 대시보드는 포트 4000에서 실행되며, 브라우저에서 http://localhost:4000으로 접속한다.

테스트와 REST API

저장소는 자동화 테스트 30개가 통과한다고 밝힌다. 테스트는 감사 기록 무결성 4개, 요청 제한과 지출 한도 2개, 권한 부여 6개, 자격 증명 폐기 4개, 승인 흐름 4개, 전체 사용자 여정 통합 1개, 엔터프라이즈 기능 9개로 구성된다. 검사 항목에는 해시 연결, 페이로드 변조와 기록 삭제 감지, 분당 요청 제한, 예산 한도, 기본 거부 정책, 권한 경계, 서버 측 도구 실행 차단, 즉시 거부와 영구 폐기, 일회용 티켓 및 재생 공격 방어(HTTP 409), 만료 티켓 거부, 하위 에이전트 권한 축소, 위험 점수, ECDSA 서명과 오프라인 검증, 비상 킬 스위치, EU AI Act 준수 보고서 생성이 포함된다. 테스트는 다음 명령으로 실행한다.

npm test

REST API는 에이전트 관리와 위임, 정책 검사, 사람의 승인, 보호된 도구 실행, 체크포인트와 규제 준수 보고, 비상 대응 기능을 제공한다.

• 에이전트 관리: POST /api/v1/agents/register로 최상위 오케스트레이터를 등록하고, POST /api/v1/agents/delegate로 권한 범위를 축소한 하위 에이전트를 만든다. GET /api/v1/agents/:id/subagents는 하위 에이전트 목록을 반환한다. POST /api/v1/agents/:id/revoke는 자격 증명을 영구 폐기하며, POST /api/v1/agents/:id/status는 에이전트를 정지하거나 다시 활성화한다.
• 정책과 위험 분석: POST /api/v1/authorize는 정책 게이트웨이에서 작업의 의미적 영향 범위를 계산하고 { allowed, decision, blastRadius, reason, approvalId? }를 반환한다. POST /api/v1/policies는 우선순위가 있는 승인 규칙을 만든다.
• 사람의 승인: GET /api/v1/approvals/pending은 대기 중인 승인 요청을 조회한다. 운영자는 POST /api/v1/approvals/:id/decide로 승인하거나 거부하며, 승인하면 일회용 실행 티켓이 발급된다.
• 보호된 도구 실행: POST /api/v1/tools/execute는 유효한 정책 결정 또는 일회용 티켓이 있어야 실행되는 서버 보호형 모의 도구 기능이다.
• 서명과 감사 기록: POST /api/v1/notarize/checkpoint는 현재 원장 끝에 ECDSA P-256 서명이 있는 체크포인트 매니페스트를 만든다. GET /api/v1/notarize/checkpoints는 서명된 체크포인트를 조회하고, POST /api/v1/notarize/verify-offline은 체크포인트 매니페스트의 서명을 오프라인에서 검증한다. GET /api/v1/audit/verify는 순차 SHA-256 해시 체인을 확인한다.
• 준수 평가와 비상 대응: GET /api/v1/compliance/report는 EU AI Act 제12조·제14조와 NIST AI RMF 준수 평가를 반환한다. POST /api/v1/system/killswitch는 모든 에이전트 자격 증명을 폐기하는 비상 에어갭 킬 스위치를 실행한다.