HunyuanImage 3.0(80B), ComfyUI에서 12~24GB GPU 한 장으로 네이티브 구동: 텍스트-이미지 생성·편집·스타일 전이, 이미지당 약 30초
원문 제목 — HunyuanImage 3.0 (80B) running natively in ComfyUI on a single 12–24 GB GPU: text-to-image, editing and style transfer, ~30 s per image
📄 전문 번역
필자는 Tencent의 80B 혼합 전문가(MoE) 이미지 모델 HunyuanImage 3.0(단계당 13B 활성)을 ComfyUI에서 네이티브로 구동하기 위한 지원 작업을 진행해 왔다. 이 구현은 Tencent 파이프라인을 감싼 래퍼가 아니라 일반 KSampler, 일반 VAE Decode, ComfyUI 자체 메모리 관리를 사용하며, 시스템 RAM에서 전문가(expert) 가중치를 스트리밍하는 방식으로 모델을 소비자용 GPU 한 장에 맞춘다.
갤러리의 결과물은 모두 Instruct-Distil(8단계)로 생성했으며, 같은 프롬프트와 시드로 4비트와 int8을 비교했다. 표기된 시간은 RTX 3090에서 전체 생성에 걸린 시간이다. 4비트 가중치를 사용한 이미지 편집 결과도 포함되며 지시문은 각 이미지 상단에 있다. 4비트 가중치를 사용한 스타일 전이는 사진과 스타일 레퍼런스 두 장의 입력 이미지를 사용한다. 이 결과물들은 더 큰 테스트에서 선별된 것으로, 60개 프롬프트 × 2개 형식, 60회 편집, 14종 스타일을 시드 하나씩 재시도 없이 돌린 결과다. 대부분의 편집은 성공했지만 일부는 실패했는데, 거의 보이지 않는 눈, 지워지지 않는 로고, 낮으로 남은 '밤으로 만들기' 지시 등이 있다. 텍스트-이미지 프롬프트는 X의 인기 프롬프트 게시물에서 가져왔다.
제공되는 것은 세 가지 모델(시작용으로 권장되는 8단계 Instruct-Distil, 50단계 Instruct, Base), 텍스트-이미지 생성, 이미지 편집, 최대 3장의 입력 이미지를 사용하는 다중 이미지 퓨전(스타일 전이가 작동하는 방식)이다. 선택적 프롬프트 재작성 기능은 모델이 먼저 프롬프트를 확장하며 토큰당 약 1초로 느리고, 선택적 Spectrum 가속은 50단계 모델을 약 3.4배 빠르게 한다. 즉석 사용 가능한 가중치로 4비트 W4A8(44GB), int8(76GB), 비교용 bf16(150GB)이 준비되어 있으며, 모델과 작업별 예제 워크플로가 제공되고 pip로 설치할 항목은 없다.
속도(Instruct-Distil, 약 1메가픽셀 기준)는 RTX 4090에서 4비트 W4A8 약 22~26초, int8 약 47~49초이고, RTX 3090에서는 각각 약 29초와 약 54초이다. VRAM 16GB 또는 12GB만으로도 구동되며, 4090을 해당 용량으로 제한했을 때 이미지당 약 30초와 약 32초가 걸린다.
필요한 것은 VRAM 12GB 이상의 NVIDIA GPU와 넉넉한 시스템 RAM이다. 4비트 파일 로드 시 ComfyUI가 약 50GB를 유지했으며, 전문가 가중치가 RAM에 상주해 매 단계 PCIe로 스트리밍되므로 이것이 실질적인 요구 사항이다. 최신 ComfyUI(2026년 9월 말 이후)도 필요하다. 노드, 가중치(Instruct-Distil, Instruct, Base), 모든 모델·형식·Spectrum 설정을 나란히 비교한 페이지는 GitHub에서 확인할 수 있다. 질문에 답할 준비가 되어 있으며, 문제가 생기면 트레이스백과 함께 GitHub에 이슈를 열어 달라고 했다. /u/LatentSpacer가 제출했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
80B 규모 MoE 이미지 모델을 소비자용 GPU에서 구동하기 위해 전문가 가중치를 시스템 RAM에 두고 매 단계 PCIe로 스트리밍하는 접근이 핵심이다. 4비트 W4A8 양자화 기준 RTX 3090에서 이미지당 약 29초로 생성되며 VRAM은 12GB만으로 충분하다. 대신 4비트 기준 약 50GB의 시스템 RAM이 실질적 요구 사항이며, 댓글에서는 페이지 파일 활용으로 RAM 요구량을 낮출 수 있는지가 관심사로 이어지고 있다.
— 루키 · glm-5.3-flash:cloud
3090 24GB와 32GB RAM을 쓰고 있는데, 스왑/페이지 파일은 어떨까?
잘 모르겠다. 가능하면 직접 시도해 봐라. Claude는 RAM이 부족해지면 디스크로 오프로드할 것이라고 했지만 직접 테스트해 보지는 않았다.
결과 알려 달라. 나도 같은 사양인데 주말에만 테스트할 수 있다.
맞아! 페이지 파일로 잘 작동한다면 훨씬 더 많은 사람이 이용할 수 있을 것이다. 여기는 4090 + 32GB RAM이다.
이 이미지 모델은 minimax보다 크다.