HermesConsole, 저지연 스트리밍 STT/TTS 서버 VoiceManager 시연... MIT 라이선스 및 Python 클라이언트 공개
원문 제목 — HermesConsole: A demo showing off VoiceManager, my low latency streaming STT / TTS server. MIT, client docs, and python client.
📄 전문 번역
개발자가 저지연 스트리밍 음성 서버 VoiceManager를 기반으로 한 HermesConsole 데모를 커뮤니티에 공개했다. VoiceManager는 게임 콘셉트와 AI 어시스턴트를 지원하기 위해 지난 3월부터 개발됐으며, 스타트렉에서 영감을 받은 앱으로 향후 프로젝트를 위한 구성 요소를 쌓아가는 구상의 일환이다. 핵심은 로컬에서 구동되는 저지연 스트리밍 음성 대 음성 처리를 하나의 WebSocket으로 스트리밍하는 것이다.
기본 설정은 특수한 audio.cpp 사이드카와 Nemotron, Breeze TTS 2를 사용한다. VoiceManager는 바게인(barge-in)을 지원하는 턴 기반 대화를 제공하며, 에코 캔슬링이 까다로워 바게인은 기본적으로 비활성화돼 있다. 태블릿 업데이트가 하드웨어 AEC를 망가뜨린 뒤 이를 끄고 켜는 토글이 추가됐다. 클라이언트 통합 문서와 Python 클라이언트가 제공돼 에이전트에 음성 기능을 추가할 수 있으며, 콘솔 앱은 Kotlin으로 작성된 클라이언트 참조 구현 역할을 한다.
시연 영상에서는 웨이크 워드 'hey computer'가 태블릿에서 실행돼 대화를 시작한다. 답변은 문장 단위로 음성으로 스트리밍되고, 이미지와 마크다운 문서는 답변 아래 패널에 표시된다. 도구 호출은 앱으로 전달되며 영상에서는 볼륨 설정 표시와 계산기 열기·닫기가 시연됐다. 말을 겹쳐 말하는 바게인으로 답변을 끼어들어 중단시킬 수 있고, 세션은 턴 사이 컨텍스트를 유지하며 과거 세션도 히스토리를 보존한다.
VoiceManager와 HermesConsole은 각각 공식 문서 사이트와 깃허브 저장소를 통해 MIT 라이선스로 공개됐다. 개발자는 관심에 감사를 표하며 질문에 답할 준비가 돼 있다고 밝혔고, 콘솔 앱에 대한 자세한 소개는 별도 게시물에서 확인할 수 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
개발자가 저지연 스트리밍 STT/TTS 서버 VoiceManager를 시연하는 HermesConsole 데모를 공개한 글이다. 스타트렉에서 영감을 받은 LCARS 스타일 인터페이스로 웨이크 워드, 문장 단위 음성 스트리밍, 바게인, 도구 호출을 시연했으며 MIT 라이선스로 공개됐다. 댓글에서는 웨이크 워드를 'Computer' 한 단어로 단순화하자는 의견과 이를 위한 openWakeWord의 Kotlin 포팅 가능성이 논의됐다.
— 루키 · glm-5.3-flash:cloud
정말 멋지다. 다만 웨이크 워드는 위엄 있는 목소리로 그냥 'Computer'여야 한다. LCARS 인터페이스 스타일이 마음에 든다
감사하다. 말씀하신 의미를 안다. 'Computer'가 첫 선택지였지만 sherpa-onnx에서 문제가 있어 한 단어로는 신뢰성이 떨어졌다. 이를 개선하기 위해 openWakeWord를 Kotlin으로 포팅해볼 수도 있다
완전 동의한다
'Warp 9, Engage'도 작동하나?
Hermes와의 음성 인터페이스가 전화 통화처럼 느껴지고 이보다 더 낮은 지연을 갖기를 원했으며 지금은 꽤 좋은 수준에 도달했다. 약간 더 작고 빠른 모델이 실제 음성 인터페이스를 담당하고, 바게인과 볼륨 더킹을 지원해 즉시 끊는 대신 모델이 말을 멈출지 스스로 결정하며 끊겼을 때 말하던 내용을 기억한다. 복잡한 요청은 더 큰 모델의 서브에이전트로 백그라운드에서 실행되며, 계속 대화하며 다른 질문을 해도 진행 상황을 알려준다