.aamt는 GPU에서 모델 가중치와 에이전트 기억, 가상 세계를 함께 저장하도록 설계한 파일 형식이다. 제작사는 브라우저에서 마을을 만들고 인물의 생각을 좌표화해 저장한 뒤 기하학적으로 검색하는 데모를 제공한다.
데모에서는 ‘Replay’로 녹화된 실행을 재생하거나 ‘Run it live’를 눌러 자신의 GPU에서 실행할 수 있다. 재생에서는 모델의 말만 녹화본을 사용하며, 나머지 계산은 브라우저가 다시 수행하고 콘텐츠 해시를 대조한다. 실시간 실행에는 WebGPU를 사용하며 서버가 필요하지 않다고 제작사는 설명한다.
데모의 기억은 관찰과 생각을 TERA라는 4차원 좌표에 투영하고, 16개 자식 노드를 둔 트리 구조에 저장한다. 검색은 가장 가능성 높은 루트 셀 네 곳을 살펴본 뒤 Fisher–Rao 거리로 후보를 정렬해 다음 프롬프트에 넣는다. 제작사는 이를 임베딩 서버나 벡터 데이터베이스 없이 작동하는 방식으로 소개한다.
제작사가 공개한 수치는 Apple M1 Max에서 측정한 결과다. 8B BeyondSight GaIaN 모델은 3.23GB 크기이며, 제작사는 16비트 기준 16.4GB와 비교해 제시했다. 같은 기기에서 디코딩 속도는 초당 41.2토큰이고, 4,000토큰 프롬프트의 두 번째 응답은 184배 빠르다고 밝혔다. 기억 데이터 100만 건은 0.5초 이내에 69,962개 노드로 패킹되며 파일을 여는 데 0.03ms가 걸린다는 설명도 덧붙였다. 이는 제작사가 제시한 측정치다.
파일은 손상 복구와 검증 기능도 포함한다. 각 기록은 트리 반대편의 반사 위치에 복사본을 둘 수 있으며, 두 복사본에 리드-솔로몬 오류 정정과 체크섬을 적용한다. 제작사는 심한 손상 시험 400회에서 복구하지 못한 사례가 없었다고 주장한다. 복구할 수 없는 손상은 추측해 제공하지 않고 거부한다고 설명한다.
기록 병합은 하이브리드 논리 시계를 사용하며, 키별 최댓값을 취하는 방식이라 병합 순서와 관계없이 같은 결과를 낸다는 것이 제작사의 설명이다. 선택 기능인 Odu 인덱스는 정확 검색에서 161~163배 빠르다고 제시했으며, 적응형 Meji 트리는 특정 군집 안의 검색에서 17~30배 개선되고 전체 범위 검색에서는 약 1배라고 밝혔다. 또 100만 항목에서 전체 재현율을 유지할 때 T.E.R.A 주소와 임베딩 잔차를 함께 사용하면 검색 범위를 285배 줄인다고 주장한다.
직접 사용하려면 터미널에서 npx @asamanthinks/aamt를 실행하면 된다. 제작사는 이 명령으로 BeyondSight 모델과 대화하고 사용자의 기기에서 벤치마크 카드를 만들 수 있다고 안내한다. 사양과 참조 코드는 GitHub, 모델은 Hugging Face, 패키지는 npm에서 확인할 수 있다. 제작사의 작업 문서와 라이선스 안내도 제공된다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요