FastH3-Live v1.2.0 업데이트
원문 제목 — FastH3-Live v1.2.0 update
📄 전문 번역
FastH3-Live가 v1.2.0으로 업데이트되었으며, 전체 세부 사항은 Hugging Face의 jacokon/fasth3-live 저장소에서 확인할 수 있다. v1.1.0은 24fps의 75%인 18fps로 동작했지만, v1.2.0은 24fps의 91.6%에 해당하는 22fps로 구동된다. 속도 외에도 스트리밍과 시청을 쉽게 해주는 테두리 없는 플레이어가 탑재되었고 400개의 새로운 장면이 추가되어, 이 속도라면 느리게 돌아간다는 점을 거의 느낄 수 없다고 밝혔다.
성능 향상은 두 곳에서 나왔다. 첫째는 가속 노드로, 제작자는 직접 컴파일한 sage attention을 쓰다가 최근 등장한 유명 가속 노드들을 내려받아 테스트했다. t2va, 448x448 해상도, 362프레임 기준으로 각 조건을 세 번씩 측정한 결과 sage(기준선)는 샘플러만 12.65초로 17.46fps, sage + Spectrum은 10.36초(-18.1%)로 20.18fps, Sol + Spectrum은 9.64초(-23.8%)로 20.96fps, SLA + Spectrum은 10.54초(-16.7%)로 19.53fps를 기록했다. 초 단위 수치는 SamplerCustomAdvanced의 4단계 디노이징만 해당하며, 전체 클립은 텍스트 인코더(약 0.7초), 비디오 VAE 디코드(약 4.35초), 라이터 비용이 추가되어 엔드투엔드로 약 16초가 걸린다. 속도만 보면 Sol + Spectrum을 고를 것이지만 화질은 sage > sage+Spectrum >> sla > sla+spectrum >> sol > sol+spectrum 순으로 Sol + Spectrum이 최하위였기에 sage + Spectrum을 채택했다.
둘째는 텍스트 인코더로, 기존 int8_convrot은 1.67초가 걸렸지만 qwen3vl_32b_minimax_h3_nvfp4_awq는 0.7초만 필요해 클립마다 거의 1초를 절약한다. 속도는 이 정도로 충분했지만 화질이 좋다고 할 수 없어 공개 직후 발견한 fused-turbo를 테스트했는데, minimax-h3-fused-turbo-int8-convrot은 20.98GB, 직접 양자화한 FastH3 가중치 minimax_h3_fl2va_fasth3_dense_pruned_int8_convrot은 20.97GB로 크기가 거의 같고 둘 다 4단계 가속이 가중치에 내장되어 있으며(FastH3는 증류, fused-turbo는 터보 LoRA 병합) 속도도 정확히 같게 측정되었다. 그럼에도 fused-turbo를 추천하는 이유는 첫째 Mystic v2.0 모션 스무딩이 병합되어 있다고 명시된 데다 실제 테스트에서도 화질이 명확히 더 좋고 번짐이 덜하며, 둘째 파일 하나가 fl2va와 ref2va를 모두 처리하기 때문이다. 디스코드 스트림 중 채팅 입력으로 실시간 생성하는 도구에서 사용자가 캐릭터 이미지를 붙여넣으면 ref_picture로 쓰여 ref2va가 필요한데, 기존 방식은 fl2va를 언로드하고 ref2va를 로드하는 데 버퍼 몇 초를 소모했고 ref2va에는 4단계 증류 버전이 없어 화질도 나빴으나 이 문제가 해소된 것은 실질적 장점이다. 저장소는 SLA sparse attention을 권장하지만 앞선 테스트에서 sage + Spectrum에 졌기에 제외했고, README는 res_multistep이 오디오를 눈에 띄게 개선한다고 밝히지만 충분히 테스트하지 않았다며 판단은 각자의 몫으로 남기고 언제든 전환할 수 있도록 --sampler res_multistep 파라미터를 남겨두었다.
또 한 가지로, ComfyUI가 모델 가중치를 쓰래싱하는 것을 막으려면 launchArgs에 --vram-headroom 3이 필요하며 이것이 없으면 안정적인 라이브 속도를 유지할 수 없다고 밝혔다. 이 옵션은 예상과 반대로 동작하는데, ComfyUI가 3GB의 VRAM을 완전히 비워두도록 강제하는 것이 문제를 해결한다. ComfyUI의 동적 VRAM은 카드를 캐시처럼 취급해 가득 채우는데 여유가 없으면 할당자가 다른 가중치를 로드하는 중에 기존 가중치를 축출해 같은 가중치가 반복적으로 들어갔다 나온다. 여유를 주면 한 번에 배치 전체를 가져올 수 있으며, 이것은 디스크 스왑도 아니고 시스템 RAM도 건드리지 않는다. 느린 클립에서 디스크 읽기는 0.00GB였고 가용 RAM도 움직이지 않았으며, 이는 PCIe를 통한 VRAM과 시스템 RAM 간 전송으로 정상 클립에서 PCIe 읽기는 약 1.5GB/s이지만 쓰래싱 시 9-13GB/s에 도달하고 GPU 전력 소모는 450W에서 340W로 떨어지는데, 카드가 연산 대신 전송을 기다리기 때문이다. headroom 설정 후 클립 시간은 21-25초 이상치를 포함한 표준편차 1.62에서 최악 15.73초, 표준편차 0.11로 개선되었다.
마무리로 22fps는 24fps에 2fps 모자란 수치이며, 24fps라면 소비자용 카드 한 장으로 진정한 실시간 라이브 스트리밍을 주장할 수 있다. 격차가 10% 미만이고 CPU와 GPU가 평소 언더볼트, 언더클럭, 전류 제한 상태로 동작하므로 오버클럭으로 도달할 수 있다고 판단해 GPU만 오버클럭하여 코어 클럭 2300MHz에서 3200MHz, 메모리 클럭 14000MHz에서 16800MHz로 설정해 테스트했으나, 안타깝게도 하드웨어가 시작 시 24fps를 유지하다가 조금씩 느려졌다고 한다. CPU와 GPU 모두 공략식 냉각이라 이런 지속적인 오버클럭 연산에 적합하지 않으며, 수랭식 냉각이라면 24fps 유지에 문제가 없을 것이라고 덧붙였다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
FastH3-Live v1.2.0은 가속 노드 조합 변경과 텍스트 인코더 교체로 18fps에서 22fps로 속도를 끌어올린 라이브 영상 생성 모델 업데이트다. 제작자는 속도만 빠른 Sol + Spectrum 대신 화질을 우선해 sage + Spectrum을 채택했고, 터보 LoRA가 병합된 fused-turbo 가중치 사용을 권한다. 아울러 --vram-headroom 3 옵션으로 VRAM 쓰래싱을 막는 팁과 오버클럭 시 24fps 도달 가능성도 언급했다.
— 루키 · glm-5.3-flash:cloud
이 작업을 해줘서 정말 고맙다. 내일 꼭 써볼 생각이다. RTX 5090 한 장으로 드디어 실시간 생성이 되기를 바란다.
천만에요. 5090에서는 문제없을 것으로 본다.
헐, 나는 이걸 끊고 plague의 터보 LoRA를 쓰고 있었는데. 둘 다 써야 할까?
직접 테스트해서 속도와 화질 사이의 균형을 찾아야 할 것이다.
알겠다. 궁금한 건 터보를 여러 겹 쌓는 게 흔한 일인지이다. 터보 체크포인트에 터보 LoRA 여러 개처럼 말이다. 완전히 과한 건지 중복인지 확신이 없었다.