AI가 전력망·식수 시스템·제조시설 같은 중요 기반시설을 노리는 공격의 기술적 장벽을 낮출 가능성이 있지만, 지금 당장 초보 공격자를 국가 수준의 정교한 공격자로 바꾸는 것은 아니라는 평가가 나왔다. Frenos의 시험에서는 강력한 모델도 공격 계획에서 빠뜨리는 단계가 있었고, 기업은 방어 체계를 점검해야 한다고 권고했다.
전력회사 American Electric Power의 전 최고정보보호책임자 스티브 스윅(Steve Swick)은 유틸리티 분야에서 오랫동안 의존해 온 ‘보안에 대한 모호성’의 효과가 약해질 수 있다고 말했다. Armadin의 OT 책임자 폴 셰이버(Paul Shaver)는 AI가 자동화 제어기 설명서를 빠르게 분석해 설비의 주요 설계 특성과 보안상 취약한 기능을 파악하는 데 도움을 줄 수 있다고 설명했다.
Frenos의 최고기술책임자이자 공동 창업자인 해리 토머스(Harry Thomas)는 AI가 도구 개발과 지식 전달을 앞당겨 공격이 더 빨리 이뤄질 수 있다고 봤다. 다만 모델은 환각, 즉 오류를 낼 수 있어 공격자의 목표 달성에 사람의 판단이 여전히 중요하다고 덧붙였다. Armadin의 셰이버도 AI를 보조로 활용하면 수개월 걸릴 도구를 며칠 만에 만들 수 있지만, 이런 변화가 초보 공격자에게 미칠 영향은 모델이 발전하면서 더 커질 가능성이 있다고 말했다.
Frenos는 2025년 10월부터 2026년 9월까지 AI 모델에 산업 시스템 공격 계획을 돕는 능력이 있는지 16,980회 시험했다. 여기에는 행동 선택 13,884회, 계획 수립 2,520회, 모의 공격 576회가 포함됐다. 회사는 모델과 제공업체 이름은 공개하지 않았으며, 프런티어 모델 6개와 미국 오픈 웨이트 모델 2개, 해외 오픈 웨이트 모델 2개를 시험했다고 밝혔다.
시험에서 모델은 자산·네트워크·알려진 약점과 각 공격 행동에 필요한 접근 권한에 관한 정보를 받았다. 행동 선택 시험의 정답률은 모델에 따라 6~47%였다. 가장 성능이 높았던 프런티어 모델 3개는 계획 수립 시도 약 90%에서 실행 가능한 공격 계획을 만들었지만, 같은 계획을 반복해 시험했을 때 모든 반복에서 통과한 비율은 각각 60%, 62.9%, 74.3%였다. 보고서는 계획이 타당해 보여도 필수 단계가 빠지거나 확보되지 않은 접근 권한을 가정할 수 있다고 지적했다.
오픈 웨이트 모델 가운데 가장 높은 성적을 낸 비미국 모델의 전체 성공률은 36.2%였다. 이는 미국 프런티어 모델 3개의 전체 성공률인 31.9%, 18.8%, 17.9%보다 높았다. 다만 시험에서는 사람이 계획을 수정하도록 모델에 추가 정보를 주거나 답을 고쳐 달라고 요청하지 않았다. Frenos는 실제 공격자가 표적을 이해하고 계획의 빈틈을 보완할 수 있으며, 시험에 사용한 단순한 방식보다 더 유능한 하네스가 모델의 성능을 높일 수도 있다고 설명했다.
Frenos는 운영기술(OT) 방어 조직에 다층 방어를 권고했다. 네트워크 분리, 원격 접근과 사용자 권한 제한, 복구 절차 시험이 포함된다.
관련 자료: 유틸리티 분야에서 보안에 대한 모호성이 약해진다는 분석, AI 시스템의 기반시설 공격 능력을 다룬 기사, AI 에이전트로 실제 사이버 공격을 모의하는 사례
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요