IBM의 새로운 Granite Speech 모델이 나왔다. 이번 모델은 드디어 LID와 화자 분리(diarization) 파이프라인을 위한 언어 입력을 지원한다. 리더보드에서 강력한 Qwen과 어깨를 나란히 하며 좋은 성적을 낸다. 현재 내 ASR 파이프라인에서 전사 작업의 주력으로 쓰고 있는 Qwen 3 ASR 1.7B와 벤치마크를 진행 중이다. (수정) 빠른 스모크 테스트 결과 Qwen 3 ASR 1.7B가 여전히 이 모델을 앞선다. 벤치마크 수치는 정확한 셈이다. 그래도 중국산 모델 사용이 어려운 조직에는 좋은 대안이 된다. Qwen보다 조금 뒤처질 뿐이다. 달릴 수는 있어도 강력한 Qwen을 피할 수는 없다.

나는 Voxtral Mini 3B가 좋은 성능을 보여줘서 계속 사용해 왔다. 그리고 어제 Voxtral 3가 출시된 것을 봤다. Voxtral을 사용해 봤는가? Qwen과 어떻게 비교되는지 아는가? ASR 모델의 벤치마크는 대체로 오해를 부린다고 느껴 왔다.

사용해 봤다. 전사 전용 파이프라인에서는 매우 좋지만, 제대로 된 프로덕션 파이프라인에서는 Qwen을 이기는 오픈소스 모델은 없다. 구형 Voxtral 2507이 내 테스트에서는 신형 Voxtral Realtime보다 대체로 나았다. 대형 Voxtral(24B)은 ASR용으로 구동하기엔 너무 무겁다. 참고로 제대로 된 ASR 파이프라인은 여러 단계로 구성된다. 화자 분리(Nemotron 3 Diarization 또는 Pyannote Community), 음성 향상(아마 맞춤형 구현), LID(언어 식별), 전사(Qwen, Whisper, Voxtral), 강제 정렬(Qwen), 구두점 처리 순서다.

참고로 Voxtral 3는 클로즈드 소스이며, 내가 확인한 바로는 오픈소스화할 조짐도 없다.

당신의 셋업은 어떻게 구성돼 있는가?