HAL-X AI의 내부 지원 티켓 분류 시험에서 THX-01은 정확도 98.4%를 기록했다. 네 개 언어를 대상으로 한 시험이며, Claude Sonnet 5.5와의 차이는 0.1%포인트였다.
HAL-X AI가 공개한 THX-01은 문서와 메시지에서 분류·수치 추출·근거 찾기 같은 구조화된 판단을 수행하는 오픈소스 모델이다. 지원 요청을 분류하거나 피싱 이메일을 탐지하는 등, 생성형 AI 대신 빠른 판정이 필요한 작업에 활용할 수 있다.
THX-01은 어떤 모델인가?
문서와 유형이 지정된 질문을 함께 입력하면 답을 내는 비자기회귀(non-autoregressive) 모델이다. 답을 토큰 단위로 하나씩 생성하는 대신 한 번의 연산으로 처리한다. 여러 질문을 한꺼번에 답하는 분류기에 빗대면 이해하기 쉽다. 모델은 3억 2,200만 개의 매개변수로 구성됐다.
HAL-X AI에 따르면 GPU에서 추론하는 데 약 10밀리초가 걸리며, 스마트폰을 포함한 소비자용 하드웨어에서 실행할 수 있다. 20개 언어를 지원한다. 다만 이는 제작사의 설명이며, 구체적인 기기별 실행 성능은 제시되지 않았다.
기존 모델과 무엇이 다른가?
THX-01은 Jev와 비슷한 의사결정 중심 접근을 따르면서, 제작사 설명에 따르면 여러 작업에서 Jev보다 높은 성능을 보이고 Jev가 기본 지원하지 않는 기능을 추가했다. 문서에서 정규화된 형태의 정확한 숫자를 추출하고, 원문 그대로의 인용문과 판단을 뒷받침하는 구절을 제시한다. 자동화에 활용하도록 보정된 확률도 제공한다.
choice, noul, score 질문 형식도 지원해 기존 의사결정 처리 흐름에 연결할 수 있다. 이 형식의 구체적인 사용법은 원문에 나오지 않았다.
시험 결과는 어디까지 보여 주나?
HAL-X AI의 내부 지원 티켓 분류 시험은 네 개 언어로 진행됐다. THX-01의 정확도는 98.4%, Claude Sonnet 5.5는 98.5%였고, 제작사 시험에서 THX-01의 추론 속도는 약 150배 빨랐다.
선택적 자동화 평가에서는 평가 대상 중 오류가 없었던 표본을 기준으로 티켓 약 75%를 자동 처리할 수 있었다. 이 결과는 특정 작업에 대한 내부 평가다. HAL-X AI도 이를 대규모 언어 모델과 전반적으로 동등하다는 주장으로 제시하지 않으며, THX-01은 자유 형식 생성이 아니라 구조화된 판단에 맞춰 설계됐다고 설명한다.
직접 실행하려면 무엇을 확인해야 하나?
모델 가중치와 추론 도구는 Apache 2.0 라이선스로 공개됐다. API 키 없이 로컬에서 실행할 수 있으며, Python 패키지는 다음 명령으로 설치한다.
pip install thx01
모델과 가중치는 Hugging Face 저장소에서 확인할 수 있다. 원문은 구체적인 스마트폰 기종별 성능, 지원 하드웨어 범위, 벤치마크의 세부 측정 조건을 밝히지 않는다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요