Talkhawk가 데스크톱 CPU에서 음성을 실시간의 20배로 받아쓴다

Talkhawk 0.2.0은 엔비디아의 Parakeet 음성 인식 모델을 GPU 없이 데스크톱 CPU에서 실행한다. AMD Ryzen 7 7800X3D PC에서 21초 분량 음성을 텍스트로 바꾸는 데 1.03초가 걸렸다고 측정했으며, 이 결과는 합성 음성의 처리 속도를 보여줄 뿐 인식 정확도를 평가하지는 않는다.

2026년 10월 29일 측정. Parakeet TDT 0.6B v3의 int8 모델을 CPU에서 실행한 결과로, 각 수치는 세 번 실행한 중앙값이다. 모델 로딩에는 실행마다 0.88~0.99초가 추가로 걸렸다.

측정에 사용한 PC는 Windows 11을 실행하는 AMD Ryzen 7 7800X3D 데스크톱으로, 8코어와 16스레드를 갖췄다. PC에 RTX 5070 Ti도 탑재돼 있지만 Talkhawk는 이를 사용하지 않았다. 모델은 parakeet-tdt-0.6b-v3의 int8 ONNX 내보내기 버전이며, 오픈소스 transcribe-rs 크레이트와 ONNX Runtime의 CPU 실행 공급자를 통해 구동했다.

테스트 프로그램은 Microsoft Store 패키지의 Talkhawk 0.2.0에 포함된 talkhawk.exe다. --dictate 플래그로 모델을 불러오고 16kHz 모노 WAV 파일을 읽어 음성을 변환한 뒤 두 가지 처리 시간을 출력했다. 오디오는 Windows 내장 음성 합성기(System.Speech)의 기본 음성으로 만든 16kHz 모노 클립 네 개를 사용했다. 대본은 dictation-on-a-cpu.txt에 공개돼 있다. 각 클립을 새 프로세스에서 세 차례 실행했고, 실행 결과 차이는 3% 이내였다. 메모리는 50ms 간격으로 읽은 프로세스 최대 작업 집합 크기다.

합성 음성은 깨끗하고 속도가 일정하므로 이 테스트는 속도를 측정한 것이지 정확도를 측정한 것이 아니다. 정확도와 관련해 엔비디아 모델 카드에는 Hugging Face Open ASR Leaderboard에서 영어 평균 단어 오류율이 6.34%라고 기재돼 있다. 구두점을 제외해 평가한 FLEURS 25개 언어 테스트 세트의 평균 오류율은 11.97%이며, 이탈리아어 3.00%에서 슬로베니아어 24.03%까지 차이가 난다. Talkhawk에서 노트북 성능은 아직 측정되지 않았고, 코어 수와 클럭이 더 낮은 노트북 프로세서에서 얼마나 느려질지도 확인되지 않았다.

Talkhawk는 사용자가 말하는 동안 녹음을 구간으로 나눠 음성을 변환한다. Ctrl + Win을 누르고 있으면 말 사이의 쉼을 기준으로 구간을 만든다. 구간이 최소 3초 길이이고 그 안에 1초 분량의 음성이 있을 때, 550ms 동안 쉼이 이어지면 구간이 끝난다. 한 번도 쉬지 않으면 25초가 되기 전에 가장 조용한 시점을 경계로 삼는다. 완성된 구간은 백그라운드 스레드에서 모델로 전달되고, 변환된 단어는 사용자가 계속 말하는 동안 화면 표시기에 나타난다.

쉼 감지는 음량만을 기준으로 한다. 주변 소음 바닥값은 더 조용한 순간이 오면 즉시 낮아지지만, 다시 높아질 때는 초당 약 1dB씩만 올라가므로 긴 문장이 소음 바닥값으로 처리되지는 않는다고 설명한다.

사용자가 단축키를 놓은 뒤의 처리 방식은 말한 시간에 따라 다르다. 20초 이내로 말한 경우에는 구두점 처리가 가장 나은 한 번의 입력 창을 사용하기 위해 전체 음성을 모델에 다시 넣으며, 이 CPU에서는 최대 약 1초가 걸린다. 20초를 넘기면 이미 변환한 구간은 유지하고 마지막 쉼 이후의 음성만 처리한다. 이 부분은 최대 25초 분량으로, 제시된 속도 기준 약 1.2초가 걸리며 보통은 몇 초 분량이라 약 0.2초가 걸린다.

녹음과 음성 인식은 PC 밖으로 전송되지 않으며 받아쓰기는 오프라인으로 작동한다. 무료 플랜은 여기까지 제공한다. Talkhawk Pro는 폴란드어 교정 기능을 추가하며, 이 기능은 오디오가 아니라 변환된 텍스트를 클라우드 언어 모델에 보내 군더더기 말을 제거하고 구두점을 수정한다. 교정 기능을 끄면 받아쓰기 내용은 PC에 남는다.

Talkhawk는 엔비디아 Parakeet TDT 0.6B v3(CC BY 4.0), transcribe-rs, ONNX Runtime, Tauri를 기반으로 한다. Talkhawk 자체는 비공개 소스이며, Windows 11용 Microsoft Store에서 단어 수 제한 없이 무료로 제공된다. Talkhawk 다운로드