Quick Subtitles가 Parakeet 전사를 3배 빠르게 한다

Quick Subtitles CLI가 Parakeet 음성 전사 모델을 여러 CPU 코어에서 동시에 실행해 기존보다 약 3배 빠르게 처리한다. 102분 분량 오디오를 M4 Pro에서는 12초, M6에서는 8초 만에 전사했다고 제품 개발자가 밝혔다.

변경 사항은 현재 Quick Subtitles CLI에서 사용할 수 있다. 기존 설치본을 업그레이드하거나 다음 명령으로 설치하면 된다.

brew install mattbirchler/tap/quicksubs

Quick Subtitles 앱에는 몇 주 안에 업데이트가 적용될 예정이다. 현재는 More Birchtree 구독자를 대상으로 베타 버전이 제공된다.

Parakeet은 오디오를 15초 단위로 나눠 순차적으로 전사한다. CLI에서 각 구간을 서로 다른 코어에 배정하도록 바꾸자 처리 속도가 빨라졌다. 다만 테스트에서는 코어 4개를 넘기면 신경망 처리 장치가 데이터 처리 속도를 따라가지 못해 추가 성능 향상이 거의 없었다. 개발자는 M4 Pro와 M6에서 코어 수를 1개부터 8개까지 늘려 비교했으며, M6의 신경망 처리 장치에 코어가 두 배 더 많은데도 결과는 달라지지 않았다고 설명했다.

개발자는 변경 전후로 A/B 테스트를 진행했으며 결과가 같았다고 밝혔다. 따라서 별도의 ‘Turbo’ 옵션 없이 Parakeet의 멀티스레드 처리를 기본 적용한다. 제품 개발자에 따르면 기본형 M6에서는 초당 최대 12분 분량의 오디오를 전사한다.

Quick Subtitles는 애플의 전사 모델보다 Parakeet이 빠르고 정확하며, Whisper는 조금 더 정확하지만 훨씬 느리다고 소개한다. 이 비교와 성능 수치는 제품 개발자가 전한 내용이다. 애플 모델은 개발자가 사용할 코어 수를 지정할 수 없고, Whisper는 주로 신경망 처리 장치에서 실행돼 이번 방식의 적용 대상이 아니었다.

Parakeet 처리 구조는 FluidAudio를 통해 살펴봤다고 개발자는 설명했다. Quick Subtitles 앱은 앱스토어에서 확인할 수 있다.