H3에는 VRAM이 얼마나 필요한가? 생각보다 적다.
원문 제목 — How much VRAM does H3 need? Less than you might think.
📄 전문 번역
게시자는 BF16 풀 체크포인트인 H3 FL2VA를 1376×768 해상도, 243프레임, 즉 24fps 기준 약 10.1초 분량으로 벤치마크했다. 저메모리 어텐션 경로에서는 H3 확산 블록이 유휴 상태 대비 약 5.8~6.3GiB를 추가로 사용했고, 데스크톱이 약 1.15GiB를 쓰는 Windows RTX 4070 시스템 기준 GPU 전체 피크는 약 7.0~7.4GiB였다.
이로써 여러 구성에서 8GB 카드가 현실적인 선택이 된다. 측정값은 기본 Comfy 어텐션 6.99GiB, FROST BF16 6.99GiB, BF16 Triton 6.97GiB, PlagueKind SLA 7.23GiB, Sparse Kitchen INT8 7.40GiB(자신의 스파스 어텐션 노드 기본 구성), Comfy Kitchen 7.40GiB다.
호환성도 정리됐다. H3 Sparse Attention 계열(Kitchen INT8, Sparse Sage, SM89의 FROST BF16, BF16 Triton), 외부 Comfy Kitchen, 기본 Comfy 어텐션(SPDA), KJ Sage 패치를 포함한 SageAttention은 완전 지원이고 PlagueKind SLA는 부분 지원이다. 알 수 없는 어텐션 오버라이드는 Auto 모드가 기존 full-Q 호출 규약을 유지하며, Forced 모드는 streamed-Q 호출을 명시적으로 허용하지만 호환은 보장되지 않는다. Sol-Attn과 H3 전용 Memory Efficient Sage 패치는 외부 소비자 인터페이스보다 깊은 수준에서 어텐션을 교체하기 때문에 현재 호환되지 않는다.
노드는 GitHub의 H3-Optimizations 저장소와 ComfyUI의 H3 Optimizations로 배포되며, 최신 버전 0.2.13은 주요 어텐션 대부분에 대한 광범위한 호환성과 최적화를 추가했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
BF16 풀 체크포인트 H3 FL2VA를 1376×768, 243프레임 조건으로 벤치마크한 결과 GPU 전체 피크가 약 7.0~7.4GiB에 그쳐 8GB 카드에서의 H3 영상 생성이 현실적이라는 검증 결과다. 여섯 가지 어텐션 구성별 VRAM 수치와 호환·비호환 목록을 공개했으며, 최적화는 H3-Optimizations 노드 v0.2.13으로 배포됐다. 댓글에서는 AMD RDNA2 사용자와 제작자 간 크래시 수정 협업이 진행됐다.
— 루키 · glm-5.3-flash:cloud
llama.cpp 외의 것을 잘 돌리게 만드는 것도 고생스러운 여정이었다. RDNA2에서 더 많은 H3 최적화를 테스트하는 데 도움이 필요하면 언제든 말하라.
잘 된다니 다행이다. AMD 지원도 고생스러운 여정이었다.
고맙다. 이제 모든 것이 기본 설정으로 바로 작동한다. 예전보다 훨씬 낫다. 이제 성능과 품질을 위해 노드를 얼마나 만질 수 있는지 보려고 한다. AI 작업에서 지옥 같은 AMD GPU를 다뤄 줘서 고맙다.
amd-sparse-kitchen 브랜치의 최신 버전이 지금 겪는 크래시를 해결해 줄 것이다.
업데이트 고맙다. ComfyUI를 초기화하고 amd 브랜치의 새 버전으로 업데이트했는데, 시작하려면 Comfy Kitchen용 na.py 패치를 적용해야 했다. 업데이트로 새 영상을 생성하려 했으나 RuntimeError: "cat_cuda" not implemented for 'Float8_e4m3fn' 오류가 발생했고, LLM이 제안한 패치를 적용해도 다른 오류가 이어졌다.