TL;DR

  • CCTI(Centre for Cryptographic Trust Infrastructure)는 AI 에이전트가 디지털·물리적 세계에서 안전하게 협력하도록 암호학적 신뢰 기술을 연구하는 센터로, ARIA의 240만 파운드 지원금을 받아 출범함.
  • CCTI는 케임브리지 대학교 컴퓨터과학·기술학과, 비영리 단체 SINE Foundation, Ink & Switch, 스타트업 Light Squares의 협력체임.
  • 핵심 가설은 영지식 증명 등 암호 프로토콜로 민감한 상업 정보를 공개하지 않으면서 물리적 생산 과정에 관한 주장을 입증할 수 있다는 것임.
  • 은행 거래, 디지털 송장, 센서 데이터, 이메일 인증, 정부 웹사이트 및 인증 기관의 자료를 검증 가능한 증거로 연결해 도메인별 논리와 영지식 증명에 입력하는 접근법임.
  • 게임 이론 모델, 여러 산업의 실제 사례, 대형 언어 모델(LLM) 기반 시제품을 활용해 신뢰 형성과 합의에서 암호 프로토콜의 효과를 평가할 계획임.

CCTI 출범 발표

  • Martin Kleppmann은 수년간 추진해 온 연구 프로젝트인 암호학적 신뢰 인프라 센터(CCTI)의 출범을 발표함.
  • CCTI는 영국 고등연구발명국(ARIA)의 Scaling Trust 프로그램을 통해 초기 지원금 240만 파운드를 받음.
  • 참여 기관은 케임브리지 대학교 컴퓨터과학·기술학과, 비영리 단체 SINE Foundation, 오랜 협력 관계인 Ink & Switch, 스타트업 Light Squares임.
  • ARIA Scaling Trust 프로그램의 목표는 AI 에이전트가 소유자를 대신해 디지털 세계와 물리적 세계 전반에서 안전하게 협력하도록 하는 것임. 이 프로그램은 암호학을 활용한 협력 방안을 조사하는 여러 팀에 자금을 지원함.
  • 설립된 지 3년 된 ARIA는 군사 목적이 아닌 민간 목적을 맡는다는 차이가 있는 DARPA 모델의 영국 연구 지원 기관임. 성공하면 사회에 큰 긍정적 영향을 줄 야심 찬 연구에 자금을 지원하는 것이 목표임.
  • ARIA는 지난 1년 동안 Safeguarded AI 프로그램을 통해 Kleppmann의 협력자들이 진행하는 Automerge 연구에도 자금을 지원함.

CCTI의 연구 목표

  • 제조 기업의 AI 에이전트가 필요한 부품의 공급업체를 찾고, 잠재적 공급업체 및 그들의 에이전트와 접촉하는 상황에서는 상대 에이전트가 진실을 말하는지 확인하기 어려움.
  • 사기꾼은 실제로는 제품을 제공하지 않으면서 원하는 제품을 보유한 것처럼 가장할 수 있음. 사전 거래 이력이나 평판을 확인할 다른 방법이 없다면 에이전트끼리 서로를 신뢰할 수 있는지 판단할 수 없음.
  • 전통 경제에서는 인증 기관 같은 신뢰받는 제삼자와 잠재적 공급업체를 심사하는 비용이 높고 느리며 수작업이 필요한 절차로 이 문제를 해결함. 예를 들어 공장을 직접 검사하려고 담당자를 현지에 보내는 방식임.
  • 연구 가설은 영지식 증명 같은 암호 프로토콜을 이용하면 한 에이전트가 상업적으로 민감한 데이터를 공개하지 않고도 다른 에이전트에게 자신의 주장이 사실임을 증명할 수 있다는 것임. 공급업체가 제품을 주장한 특정 공정으로 제조했음을 증명하는 사례가 이에 해당함.
  • 이 접근이 성립하면 큰 경제적 기회를 열 수 있다고 봄.
  • Kleppmann과 박사과정 학생 Jessica는 지난 2년간 암호학으로 물리적 세계에 관한 사실을 증명하는 연구를 진행해 왔으며, CCTI는 이 연구 흐름을 일반화하는 프로젝트임.

물리적 세계에 관한 증명

  • 논문 Emission Impossible에서는 데이터센터 운영자가 고객별 컴퓨팅 자원 사용으로 발생한 탄소 배출량을 고객에게 암호학적으로 증명하는 방법을 제시함.
  • 데이터센터를 사례로 선택한 것은 단순화 가정을 둘 수 있었기 때문임. 해당 연구는 배출원으로 전기만 고려하고 하드웨어 제조 등은 제외함.
  • 후속 연구에서는 이러한 가정을 하나씩 줄이며 기법을 다른 사용 사례로 일반화하고 있음.
  • 지속가능성 분야에서는 농산물이 최근 산림이 개간된 땅에서 재배되지 않았음을 검증하는 방안도 살펴봄. 이는 유럽연합 산림전용 규정(EU Deforestation Regulation)에서 요구하는 내용임.
  • CCTI의 범위는 지속가능성에 한정되지 않으며, 서로를 신뢰하지 않는 당사자들이 신뢰 관계를 확립하려는 모든 사례를 다룸.
  • 기업의 그린워싱처럼 의심스러운 주장이 나오는 경우에도 정확성이 중요하므로, 탄소 배출량 감축 등 지속가능성 목표 달성에 이 접근법이 특히 유용할 수 있다고 봄.

작동 방식

  • 탄소 집약도가 낮은 공정으로 철강을 생산했는지 증명하는 경우, 직접환원 공정에 그린 수소를 사용하고 재생에너지 전력으로 전기로를 가동했는지, 고로를 사용했는지가 쟁점이 될 수 있음.
  • 소재 샘플을 분석하면 생산 공정은 파악할 수 있지만, 수소와 전력의 탄소 집약도는 알 수 없음. 따라서 직접 관찰할 수 없는 속성을 증명해야 함.
  • 간접적인 사실은 관찰하고 암호학적으로 증명할 수 있음. 기업 은행 계좌의 금융 거래 내역을 내려받고, 은행의 TLS 인증서를 신뢰한다는 전제 아래 TLSNotary 또는 유사한 도구로 거래가 진짜임을 증명할 수 있음.
  • 각 금융 거래를 디지털 송장과 검증 가능하게 연결하고, 송장에 제품 정보와 배출량 데이터를 첨부할 수 있음.
  • 이를 통해 철강 회사가 코크스를 구매하지 않았고 재생에너지 전력과 그린 수소를 대량 구매했음을 암호학적으로 증명할 수 있음. 전력과 수소 자체도 재귀적으로 검증된 증명을 통해 입증되는 방식임.
  • 해당 회사가 다른 생산자의 고배출 철강을 재판매하지 않았다는 점도 증명해야 함. 이를 포함한 증거가 마련되면 철강이 실제로 주장대로 친환경적이라는 설득력 있는 근거가 됨.
  • 증명 과정에는 여러 출처의 자료를 추가할 수 있음.
  • 신뢰할 수 있는 센서의 데이터는 디지털 서명으로 인증 가능함.
  • 이메일은 DKIM 서명으로 인증 가능함.
  • 정부 웹사이트는 기업의 신원을 증명할 수 있음.
  • 인증 기관은 디지털 인증서를 발급할 수 있음.
  • 이렇게 암호학적으로 인증된 사실을 도메인별 논리와 결합해 원하는 사실을 추론하는 대규모 영지식 증명에 입력할 수 있음.

다음 단계와 기대 효과

  • 당사자들이 합의에 도달하려면 어떤 추가 증거가 필요한지 에이전트가 파악하도록 돕는 게임 이론 모델을 탐구 중임. 증거 생산 비용과 그 증거가 가져올 이익을 비교하는 방식임.
  • 시스템 전체 설계에 반영하기 위해 여러 산업의 실제 사용 사례를 조사 중임.
  • 대형 언어 모델(LLM) 기반 시제품을 사용해 암호 프로토콜이 서로 신뢰하지 않는 에이전트의 신뢰 형성 및 합의 능력을 얼마나 높이는지 측정할 계획임.
  • 프로젝트의 목표는 매우 야심 차지만 실행 가능한 계획이 있다고 봄. 성공하면 이전에는 실현하기 어려웠던 새로운 비즈니스 모델을 가능하게 해 세계 경제의 작동 방식을 바꿀 잠재력이 있음.
  • 모든 구매 결정에 지속가능성 요소를 반영할 가능성도 있으며, 이는 경제 탈탄소화에 중요할 수 있음.
  • CCTI는 막 출범한 단계라 아직 웹사이트가 없으며, 연구가 진행되는 대로 작업 내용을 더 공개할 예정임.