TL;DR

  • Fractile은 메모리와 연산을 물리적으로 교차 배치한 프로세서로 프런티어 모델 추론을 최대 25배 빠르게, 10분의 1 비용으로 제공한다고 밝힘.
  • 프런티어 인공지능 모델의 토큰 처리량은 매년 10배 이상 증가하고 있으며, 더 많은 토큰으로 추론하는 모델일수록 더 똑똑한 결과를 내는 추세가 성장을 뒷받침함.
  • Fractile은 기존 하드웨어가 동시에 충족하기 어려운 낮은 지연 시간과 높은 처리량을 함께 달성하는 프로세서를 개발 중임.
  • 목표 시스템은 전력 예산과 규모를 유지하면서 수천 명의 동시 사용자에게 초당 수천 개의 토큰을 제공하는 것임.
  • 더 저렴하고 빠른 추론과 훨씬 긴 문맥 창을 통해 연구·소프트웨어 개발 같은 자율 작업을 며칠 걸리던 작업에서 몇 분 만에 처리하는 가능성을 제시함.

프런티어 모델 추론을 대폭 가속

  • Fractile은 차세대 인공지능을 구동할 엔진을 구축하기 위해 컴퓨팅을 혁신하고 있음.
  • 가장 발전된 모델을 최대 25배 빠르게, 비용은 10분의 1 수준으로 실행한다고 밝힘.

인공지능 확장의 미래

지수적으로 늘어나는 수요

  • 프런티어 인공지능 모델이 처리하는 토큰 수는 매년 10배 이상 증가하고 있으며, 이러한 지수적 성장이 계속될 전망임.
  • 더 많은 토큰으로 추론하는 인공지능 모델이 훨씬 더 똑똑한 결과를 내는 추세가 성장 지속의 주요 요인임.
  • 토큰 처리 규모를 확장하지 못하는 기업은 경쟁에서 뒤처질 것이라는 전망임.

더 저렴하고 빠른 처리

  • 프런티어 모델 추론에는 낮은 지연 시간과 높은 처리량이라는 두 가지 핵심 요건이 있으며, 기존 하드웨어는 두 요건을 동시에 충족하지 못함.
  • Fractile은 메모리와 연산을 물리적으로 교차 배치해 두 요건을 동시에 구현하는 차세대 프로세서 제품군의 첫 제품을 개발 중임.
  • 목표 성능은 다른 시스템이 따라올 수 없는 전력 예산과 규모로 수천 명의 동시 사용자에게 초당 수천 개의 토큰을 제공하는 것임.

빠른 프런티어

  • 토큰을 훨씬 빠른 속도로 더 저렴하게 제공하면 기존 배포를 최적화할 뿐 아니라 새로운 가능성도 열림.
  • 대폭 늘어난 문맥 창은 새로운 작업 유형을 가능하게 하며, 모델이 연구와 소프트웨어 개발 같은 복잡한 자율 작업을 수행할 수 있음.
  • 며칠에 걸리던 사람의 작업을 몇 분으로 압축하는 가능성이 제시됨.

팀 및 채용

  • Fractile의 하드웨어 성능은 인공지능 가속을 위한 차세대 프로세서를 구축하는 풀스택 접근 방식에 기반함.
  • 팀은 트랜지스터 수준의 회로 설계부터 클라우드 추론 서버 로직까지 전 분야를 아우름.
  • 채용 공고: Bristol의 Board Test Engineer, London 및 Bristol의 Developer Experience / DevEx, Bristol의 DRAM Product Engineer.
  • 채용 공고 목록에는 4/37개 직무가 표시됨.

뉴스 및 인사이트

  • 2026년 5월: Fractile이 차세대 추론 하드웨어 구축을 위해 2억 2,000만 달러를 조달했다는 소식이 게시됨. 읽는 데 5분이 걸리는 기사로 표시됨.
  • *Wall Street Journal* 보도 제목은 “칩 스타트업 Fractile, 인공지능 질의 가속을 위해 2억 2,000만 달러 조달”임.
  • Factorial Funds, Accel, Peter Thiel의 Founders Fund가 Fractile에 투자함.