사람들이 이 문제로 계속 혼란스러워하는 탓에 Hugging Face의 safetensors를 직접 확인했다. 제목은 'DeepSeek V4.1 Flash는 총 748B/베이스 552B이며, 284B도 305B도 485B도 522B도 아니다'였어야 했다.

이 모델은 284B가 아니다. 원조 DeepSeek V4 Flash는 284B지만 V4.1 Flash 모델은 그렇지 않다. 일부가 주장하는 '약 305B 실제 백본 + 203B 엔그램 = 총 508B'라는 305B도 아니다. 이는 틀린 계산이다.

Hugging Face가 모델을 485B로 표기하지만 485B도 아니다. 일부 FP4 패킹 가중치를 파라미터가 아닌 바이트로 계산하기 때문이다(바이트당 FP4 파라미터 2개). 이런 일은 자주 발생하는데, 예를 들어 Hugging Face는 GLM-5.3-flash를 169B로 잘못 계산한다. vLLM이 이상한 이유로 522B로 표기하지만 이것도 아니다. vLLM 페이지 하단에서는 스스로 정정하고 있다(해당 페이지에서 'Params'를 검색하면 된다).

552B는 이 목록 중 유일하게 어느 정도 맞는 수치지만, MTP와 엔그램, 비전 인코더를 제외한 베이스 모델만 해당한다. 정확히는 메인 모델이 40개 레이어로 약 551.566B 파라미터다. FFN 전문가가 총 543.582B 파라미터를 차지하고 나머지 모델(어텐션, 공유 전문가 등)은 7.984B다. 여기에 엔그램이 약 196.929B, DSpark/MTP가 약 14.225B, 비전 인코더는 약 0.485B에 불과하다. 이 부분들은 기술적으로는 선택 사항이다. 비전 인코더는 예상보다 훨씬 작았다. 어쨌든 이 모델을 구동하려면 강력한 시스템이 필요하다. 128GB나 256GB의 RAM/VRAM으로는 역부족이다.

구성 요소별 논리 파라미터와 저장 용량은 다음과 같다. FFN MoE 전문가 543.582B(288.778GB, FP4), 기타 FFN 1.4947B(1.574GB, 대부분 FP8), 어텐션 5.1269B(6.524GB, 대부분 FP8), 임베딩+LM 헤드 1.3238B(2.648GB, BF16), 기타 0.0397B(0.158GB, FP32/BF16)로 백본 총계는 551.566B(약 552B, 299.682GB)다. 엔그램 룩업 테이블 196.614B(202.758GB, FP8), 엔그램 프로젝션/게이팅 0.315B(0.315GB, 대부분 FP8)로 엔그램 총계는 196.929B(공식 표기 196B, 203.073GB)다. DSpark/MTP는 14.225B(8.033GB, 대부분 FP4 전문가), 비전 인코더는 0.485B(0.971GB, 대부분 BF16)이며, 전체 합계는 약 763.21B 파라미터(약 511.76GB)다.