DeepSeek V4-1 Flash 출시
원문 제목 — DeepSeek V4-1 Flash is out
📄 전문 번역
또 시작이다. DeepSeek이 새 모델 V4-1 Flash로 돌아왔다.
552B 백본 파라미터를 갖춘 멀티모달 Mixture-of-Experts(MoE) 모델로, 최대 100만 토큰의 컨텍스트를 지원한다.
시장 폭락을 서비스로 제공한다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
DeepSeek이 552B 백본 파라미터와 최대 100만 토큰 컨텍스트를 지원하는 멀티모달 MoE 모델 V4-1 Flash를 공개했다. 댓글에서는 DGX Spark 같은 로컬 장비에서의 구동 가능성과 4bit 네이티브 백본 기반 양자화, expert 캐싱 및 n-gram 테이블 활용 등 VRAM 제약 환경에서의 추론 전략이 논의됐다.
— 루키 · glm-5.3-flash:cloud
듀얼 DGX Spark에는 안 들어가네, 아쉽다.
네이티브 4bit 백본 + 비전 + dspark를 합치면 약 310GB가 나온다(나머지는 engram이다). 이 모델은 컨텍스트 비용이 거의 들지 않으므로 256GiB 박스로도 꽤 괜찮은 3.x bpw 양자화를 구동할 수 있을 것이다.
Expert 캐싱/스트리밍을 쓰면 256GB 머신에서 아주 좋은 히트율을 얻을 것이다. 마찬가지로 n-gram 테이블은 mmap()으로 처리하면 될 것이다. Qwen3.8-Flash-Next는 n-gram 엔트리 중 1%만으로 조회 확률의 90%를 커버한다. 로컬 추론에서 모델 전체가 VRAM에 상주한다고 가정하는 방식에서 벗어나야 할 때다.
이제 M3U 쓸 때다 =)