TL;DR

  • Tinfoil은 Hopper·Blackwell 다중 GPU와 기밀 컴퓨팅을 활용해 호스트 시스템, 클라우드 제공업체, Tinfoil로부터 AI 작업을 격리하고 처리 중 데이터의 비공개성을 보장하는 플랫폼임.
  • 데이터는 메모리에서 암호화된 상태로 유지되며, 보안 엔클레이브 내부에서만 복호화됨.
  • 오픈소스 플랫폼으로, GPU 기밀 컴퓨팅, AMD SEV, Intel TDX를 비롯한 하드웨어 보안 기술과 클라이언트 측 검증 도구를 결합함.
  • 암호화된 런타임 증명과 투명성 로그를 통해 개인정보 보호와 무결성 보장을 검증할 수 있음.
  • 기존 AI 제공업체는 처리 전 데이터를 복호화하는 반면, Tinfoil은 암호학적으로 검증 가능한 하드웨어 기반 개인정보 보호를 제공함.

보안 하드웨어 기반 기밀 컴퓨팅

  • Tinfoil은 기밀 컴퓨팅(confidential computing)을 활용해 AI 작업을 호스트 시스템, 클라우드 제공업체, Tinfoil 자체로부터 격리하는 보안 엔클레이브를 구성함.
  • 데이터는 메모리에서 암호화되며 엔클레이브 내부에서만 복호화되므로, 처리 중인 데이터에 타인이 접근할 수 없도록 함.
  • 오픈소스 플랫폼으로, 업계 주요 기업의 기밀 컴퓨팅 기반 기술과 클라이언트 측 검증 도구를 결합해 하드웨어가 강제하는 개인정보 보호와 자동 검증 기능을 제공함.
  • 적용 기술은 다음과 같음.
  • Hopper 및 Blackwell 아키텍처의 GPU 기밀 컴퓨팅
  • CPU 작업의 안전한 암호화 가상화를 위한 AMD SEV
  • 하드웨어 격리 신뢰 도메인을 위한 Intel TDX

하드웨어 기반 개인정보 보호와 투명성

  • Tinfoil은 보안 하드웨어 엔클레이브, 암호학적 런타임 증명, 공급망 보안을 위한 투명성 로그를 통해 검증 가능한 개인정보 보호 및 무결성 보장을 제공함.
  • 데이터는 항상 비공개로 유지되며 본인 외에는 접근할 수 없다는 것이 Tinfoil의 설명임.

빠른 다중 GPU 추론 및 학습

  • Tinfoil은 시장에서 다중 GPU 기밀 컴퓨팅을 지원하는 유일한 플랫폼이라고 설명함.
  • NVIDIA Hopper 및 Blackwell GPU를 기밀 컴퓨팅 모드로 실행해 비공개 AI 작업을 지원함.
  • 비공개 컴퓨팅의 성능은 비공개 기능이 없는 컴퓨팅과 거의 동일한 수준임.

기존 AI와 Tinfoil AI 비교

  • 기존 AI 제공업체에 데이터를 맡기는 방식과 보안 하드웨어 엔클레이브를 활용하는 검증 가능한 비공개 AI의 차이를 제시함.

기존 AI 추론: 구두 약속에 의존하는 보안

  • 기존 AI 제공업체에서는 처리 전에 데이터가 복호화돼 사용 중 노출됨.
  • 제공업체가 데이터를 열람·분석하거나 학습에 사용할 수 있음.
  • 유일한 보호 수단은 데이터 처리 계약(DPA) 등의 법적 합의임.

Tinfoil AI 추론: 검증 가능한 하드웨어 기반 개인정보 보호

  • 데이터가 보안 엔클레이브에 직접 암호화됨.
  • Tinfoil을 포함해 누구도 데이터에 접근하거나 데이터를 공유할 수 없음.
  • 이러한 보안 보장을 암호학적으로 검증할 수 있음.

보안 엔클레이브를 통한 종단 간 개인정보 보호

  • 데이터 흐름도는 AI 추론 또는 학습 과정의 각 단계에서 Tinfoil이 데이터를 보호하는 방식을 보여줌.
  • 암호화된 데이터 전송부터 하드웨어 보호 엔클레이브 내부의 GPU 처리까지 데이터는 비공개로 유지되며 Tinfoil도 접근할 수 없음.
  • Tinfoil은 아키텍처 상세 자료와 기술·아키텍처 및 다른 플랫폼과의 비교를 다루는 블로그 글을 제공함.