HAL-X AI가 3억 2,200만 개 매개변수를 갖춘 오픈소스 의사결정 모델 THX-01을 공개했다. 제작사에 따르면 이 모델은 20개 언어를 지원하고 GPU에서 약 10밀리초 만에 추론하며, 스마트폰을 포함한 소비자용 기기에서 실행할 수 있다.

THX-01은 문서나 메시지와 유형이 지정된 질문을 함께 입력받아 한 번의 순전파로 답을 내도록 설계됐다. 문장을 한 토큰씩 생성하는 방식이 아니라 분류, 정보 추출, 요청 라우팅 같은 구조화된 의사결정 작업에 초점을 맞춘다.

HAL-X AI는 THX-01이 Jev와 비슷한 의사결정 중심 접근을 따르면서, Jev가 기본적으로 지원하지 않는 기능도 제공한다고 설명했다. 문서에서 정규화된 형식의 정확한 숫자를 추출하고, 원문 그대로의 발췌문과 판단을 뒷받침하는 근거 구절을 반환할 수 있다. 신뢰도 추정치를 제공하며 TypeSafe 스타일의 choice, noul, score 질문도 지원한다.

벤치마크와 적용 범위

HAL-X AI의 내부 4개 언어 고객 지원 티켓 분류 벤치마크에서 THX-01의 정확도는 98.4%였다. 업체가 비교 대상으로 제시한 Claude Sonnet 5.5는 98.5%였다. HAL-X AI는 자사 테스트에서 추론 속도가 약 150배 빨랐다고 밝혔다.

업체의 선택적 자동화 평가에서는 평가 대상 하위 집합에서 티켓의 약 75%를 오류 없이 자동 처리할 수 있었다. 다만 HAL-X AI는 이 결과가 특정 작업에 대한 내부 평가이며, 대규모 언어 모델과 전반적으로 동등하다는 주장은 아니라고 선을 그었다. THX-01은 개방형 텍스트 생성이 아니라 구조화된 의사결정에 최적화된 모델이다.

모델 가중치와 추론 도구를 포함해 Apache 2.0 라이선스로 공개했으며, API 키 없이 로컬에서 실행할 수 있다. Python 패키지는 다음 명령으로 설치한다: pip install thx01.

모델과 가중치는 Hugging Face 저장소에서 확인할 수 있다.