[audio.cpp] 놓치기 쉬운 최근 업데이트: Higgs Audio TTS VRAM 48% 절감(6GB 미만), HTDemucs 2.2배 속도 향상, PocketTTS CPU 2.2배 속도 향상, WebUI 생성 기록 기능 추가
원문 제목 — [audio.cpp] Recent updates you might have missed: Higgs Audio TTS use 48% less VRAM (< 6GB), HTDemucs 2.2× faster, PocketTTS 2.2× faster on CPU, and WebUI generation history feature
📄 전문 번역
안녕하세요 여러분, audio.cpp에 다수의 성능 개선이 반영되었다. 가장 큰 하이라이트는 Higgs Audio TTS로, 이제 약 6GB VRAM으로 구동되며 이전 구현 대비 피크 메모리 사용량이 48% 감소했다. mirek190에게 감사를 전한다.
또한 일부 모델을 상당히 빠르게 만들었으며, 특히 GPU에서의 HTDemucs와 CPU에서의 PocketTTS가 그렇다. 품질과 정확성의 동등성에는 어떠한 타협도 없었다. 개선 사항 요약은 다음과 같다. Higgs Audio TTS는 VRAM 48% 절감 및 속도 1.01~1.09배(CUDA), ACE-Step 계열은 VRAM 6~7% 절감 및 속도 1.06~1.08배(CUDA), 1.16~1.20배(Vulkan), MOSS-TTS v1.5 클로닝은 VRAM 21% 절감 및 속도 1.05배(CUDA), MOSS-TTSD Q8 클로닝은 VRAM 11% 절감 및 속도 1.04배(CUDA), Echo-TTS(Memory Saver)는 VRAM 20% 절감, Qwen3-TTS는 VRAM 16~20% 절감, IndexTTS2/2.5는 VRAM 12% 절감, HTDemucs는 속도 2.21배(CUDA), 1.95배(Vulkan), HTDemucs six-stem은 속도 1.99배(CUDA), PocketTTS는 RAM 9% 절감 및 속도 2.23배(CPU)이다.
이는 기존 모델을 로컬에서 더 실용적으로 구동할 수 있게 만드는 런타임 수준의 최적화이다. WebUI에는 이전 출력 결과를 다시 확인하고 해당 설정을 복원할 수 있는 실험적 생성 기록 기능이 추가되었다.
audio.cpp는 현재 110개 이상의 오디오 모델 계열과 190개 이상의 변형(계속 증가 중)을 지원한다. CUDA, Vulkan, Metal, AMD/HIP, CPU 전반에서 메모리 효율과 추론 속도를 계속 개선하고 있으며, 다음 릴리스에는 더 많은 최적화가 담길 예정이다.
또한 audio.cpp WebUI 개선에 기여할 개발자를 찾고 있다. 지원하는 모델과 기능이 많아진 만큼 UI를 더 세련되고 직관적이며 즐겁게 만드는 데 도움이 필요하다. 프론트엔드 개발이나 UI/UX 디자인에 관심이 있다면 기여를 환영한다. 개선에 기여하고, 빌드를 테스트하고, 이슈를 보고해 준 모든 이들에게 감사를 전하며, 여러분의 환경에서 이번 변화가 어떻게 작동하는지 궁금하다!
💬 주요 댓글 번역 (5)
🔍 루키 분석
로컬 오디오 추론 프로젝트 audio.cpp가 Higgs Audio TTS의 VRAM 사용량을 48% 줄이고 HTDemucs와 PocketTTS의 속도를 2배 이상 끌어올린 런타임 수준 최적화를 발표했다. 개선은 CUDA, Vulkan, CPU 등 백엔드별로 이루어졌으며, WebUI에는 이전 결과와 설정을 복원할 수 있는 실험적 생성 기록 기능이 추가되었다. 프로젝트는 현재 110개 이상의 오디오 모델 계열과 190개 이상 변형을 지원하며, 문서 보완 약속과 함께 WebUI 기여자를 요청하고 있다.
— 루키 · glm-5.3-flash:cloud
다음에 어떤 모델을 최적화해 드릴까요?
문서요. YuE2 서버를 설정하려고 LLM으로 지저분한 JSON 파일을 만들라는 것이었나요? LoRA는 어떻게 사용하나요? 문서에서 알 수 없었던 부분들입니다. Usage.md에는 서버에 대한 언급이 없고, CLI 인자를 서버 인자로 변환하는 내용도 보이지 않더군요.
아야, 아프네요 :) 하지만 맞습니다, 문서가 뒤처져 있죠. 문서를 다듬겠습니다!
Breeze TTS2에 대한 추가 최적화는 언제나 환영합니다.
알겠습니다. 최근에 추가된 Q4_0를 사용해 보셨나요?