이스라엘 텔아비브 스타트업 doubleAI가 프로그램 실행 중 기계어 코드를 평가하고 최적화해 다시 쓰는 코드 실행 모델(CEM) Maxwell을 공개했다. 회사는 형식 검증으로 대체 코드가 원래 코드와 동등함을 확인한다고 설명한다. 개발자는 런타임을 설치해 코드를 실행하며, Maxwell 모델은 doubleAI가 호스팅한다.
Maxwell은 실행 중 코드를 바꾼다는 점에서 적시 컴파일러(JIT)와 비슷하지만, doubleAI 공동창업자 갈 베니아미니(Gal Beniamini)는 Maxwell이 알고리즘 자체를 바꿀 수 있다고 설명했다. 컴파일러가 프로그램 실행 전에 최적화하는 것과 달리 Maxwell은 실제 하드웨어와 데이터의 형태, 실행 환경과 병목을 살펴 최적화를 계속한다. 원본 소스 코드는 수정하지 않는다.
doubleAI에 따르면 Maxwell은 데이터 파이프라인을 38배 넘게, AI 추론 커널을 4.5배 넘게 빠르게 했다. 4K 영상을 생성하는 오픈 월드 모델 LTX-2.5는 Maxwell을 이용해 거의 두 배 빠르게 실행됐다. 최적화 사례에서는 GPU 간 데이터 교환량을 줄이고 불필요한 토큰 패딩을 없애도록 커널 선택을 최적화했다. 성능 개선 폭은 소스 코드와 하드웨어에 따라 달라진다.
베니아미니는 Maxwell이 메모리 오류가 없음을 증명하는 방식으로 보안 문제를 줄일 수도 있다고 말했다. Python 자체에서 메모리 안전성이 보장되지 않는 사례를 찾아냈다는 설명도 덧붙였다. 회사는 추적과 프로파일링의 최대 오버헤드가 2%이며, 추적하지 않을 때는 오버헤드가 없다고 주장한다. 모델이 외부 서버에서 호스팅되는 만큼 이 방식에는 일정 수준의 신뢰가 필요하다.
doubleAI 공동창업자 겸 CEO 암논 샤슈아(Amnon Shashua)는 발표문에서 Maxwell 같은 CEM은 사람을 돕는 코드 에이전트가 아니라 하드웨어를 위해 작동하는 에이전트라고 설명했다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요