YuE2, 이제 8~9GB VRAM만 필요하다
원문 제목 — YuE2 only needs 8-9 GB VRAM now
📄 전문 번역
audio.cpp가 DEV 브랜치에서 YuE2를 공개했다. Q4/Q8 가중치와 audio.cpp가 생성한 다수의 데모가 HF 저장소에 함께 올라왔다. 이제 8GB VRAM으로도 실행해볼 수 있다. 업데이트: 해당 페이지의 Artifacts 섹션에서 dev 사전 빌드 파일을 찾을 수 있다.
측정은 RTX 5090에서 audio.cpp 서버 모드로 진행됐으며, 공식 tonight-awake 롱폼 테스트 케이스(full cot)를 사용했다. 각 실행마다 서버를 재시작하고 측정 대상 롱폼 요청 전에 짧은 워밍업 요청을 한 번 수행했다. 피크 VRAM은 측정 요청 중 지속적으로 샘플링했다.
측정 결과는 다음과 같다. BF16 메인 + F32 VAE 조합은 오디오 길이 224.96초에 벽시계 시간 60.46초, RTF 0.2688, 피크 VRAM 12535MiB를 기록했다. Q8_0 메인 + F16 VAE 조합은 오디오 길이 194.84초에 38.81초, RTF 0.1992, 피크 VRAM 8867MiB를 기록했다. Q4_0 메인 + F16 VAE 조합은 오디오 길이 221.12초에 44.15초, RTF 0.1997, 피크 VRAM 7755MiB를 기록했다.
소스 코드는 audio.cpp의 dev 브랜치에서, GGUF 가중치는 Hugging Face의 audio-cpp/Yue2-3B-GGUF 저장소에서 구할 수 있다. 이 게시물은 레딧 사용자 Acceptable-Cycle4645가 제출했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
audio.cpp가 dev 브랜치에서 YuE2의 Q4/Q8 양자화 가중치를 공개하면서 8GB VRAM 환경에서도 실행할 수 있게 되었다. RTX 5090 측정에서 Q8_0 조합은 피크 VRAM 8867MiB와 RTF 0.1992를, Q4_0 조합은 7755MiB와 RTF 0.1997을 기록했다. 댓글에서는 6GB VRAM 노트북 GPU 구동 사례가 보고된 한편, 가사 없는 기악곡 생성이 어렵다는 지적과 관련 우회 방법이 논의되었다.
— 루키 · glm-5.3-flash:cloud
6GB VRAM의 RTX 3060 노트북 GPU에서도 잘 돌아간다.
24시간 내내 H3 비디오 스트림을 돌리기에는 VRAM이 부족하지만, 24시간 AI 라디오를 돌리기에는 RAM이 충분하다.
가사 없이 음악 트랙만 만들려면 어떻게 프롬프트해야 하나? 가사를 비워두고 모드를 멜로디로 바꿔도 소용이 없다.
나도 같은 상황이다. 여러 방법을 시도했지만 어떤 보컬도 섞이지 않은, 일관되게 구조화된 기악곡을 얻지 못하고 있다. 가사에 Instrumental 태그를 넣거나, 섹션 가사 없이 Intro 같은 섹션 표기만 하거나, 대괄호로 섹션의 연주 방식을 지정하는 등 다른 방법도 시도했지만 확실하게 동작하는 것은 없는 것 같다. YuE2가 보컬 음악을 가장 잘 내도록 학습된 것 아닌가 싶다.
일종의 해결책을 찾았다. multimodal-art-projection의 YuE 저장소 이슈 18번에 있다. 다만 10번 중 5번 정도만 동작한다. 또한 생성된 ABC에서 V: Vocal 태그를 제거해야 할 수도 있다.