ISTA-DASLab, DeepSeek-V4.1-Flash-1017-GSQ-RCO 양자화 모델 공개
원문 제목 — ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO
📄 전문 번역
ISTA-DASLab이 GSQ-RCO 스마트 양자화 기법을 적용한 신규 릴리스를 공개했으며, 이번 대상은 DeepSeek-V4.1-Flash-1017이다. 해당 양자화 모델은 Hugging Face에서 내려받을 수 있다.
다만 원본 아키텍처 지원이 아직 llama.cpp에 병합되지 않아 llama.cpp에서는 지원되지 않으며, 관련 풀 리퀘스트 두 건이 진행 중이다.
모델 카드에는 Strata 지원이 언급되어 있지만 원본 Strata는 Qwen3.8-Flash-Next만 지원하는 것이 확실하므로, 이는 Strata 기반 포크 중 하나를 의미하는 것으로 보인다. 아마도 Xolotl이나 Maya일 가능성이 높다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
ISTA-DASLab이 GSQ-RCO 스마트 양자화 기법으로 양자화한 DeepSeek-V4.1-Flash-1017을 Hugging Face에 공개했으나, 원본 아키텍처 지원이 llama.cpp에 아직 병합되지 않아 당장은 구동할 수 없다. 게시자는 모델 카드의 Strata 지원 문구가 Strata 기반 포크인 Xolotl이나 Maya를 가리킬 가능성이 높다고 보고 있다. 댓글에서는 RAM 가격 급등 이전에 더 큰 용량의 메모리를 사두지 못한 것에 대한 후회가 이어지고 있다.
— 루키 · glm-5.3-flash:cloud
RAMpocalypse 이전에 128GB가 아닌 '겨우' 96GB RAM을 산 것을 정말 후회한다. 그랬다면 IQ2_XXS를 구동할 수 있었을 텐데…
'가격이 내려오면 96GB 키트를 하나 더 사겠다'고 말했었다. 당시에는 290달러였는데, 지금 같은 키트가 약 1500달러이다.
'홈 서버에 128GB는 필요 없다. 데이터베이스 같은 건 돌리지 않고, 설령 돌리더라도 스틱 두 개만 더 사면 된다' - 64GB를 2000유로가 아닌 600유로에 샀을 때의 내 생각이었다. 이제는 128GB를 갖고 있으며 다시는 부품 값을 아끼지 않을 것이다 🤣
서버용으로 128GB를 150파운드에 사면서 AI를 가지고 놀게 되면 스틱 4개를 더 사면 되고 나중에는 더 싸질 거라고 생각했다. 무슨 일이 벌어질지 알았다면 512GB를 샀을 것이다!
당신만이 아니라 모두가 그렇다. :(