LLM 인스펙터 NeuronDump
원문 제목 — LLM inspector NeuronDump
📄 전문 번역
모든 GGUF 모델 내부를 들여다보고, 토큰이 모든 레이어를 통과하는 과정을 추적하며, 일부를 잘라내고 무엇이 고장 나는지 확인할 수 있는 도구다. 사전 빌드된 Windows/Linux 바이너리가 GitHub(aymen94/NeuronDump)에 공개되어 있다.
Ollama/llama.cpp 모델을 가리키면 레이어, 헤드, 어휘, 채팅 템플릿 등 내부 구조를 보여주고, 개별 헤드와 전문가(expert) 수준까지 내려가는 3D 그래프도 제공한다. 토큰이 모든 레이어를 통과하는 과정(logit lens, 어텐션, 어떤 헤드가 결정했는지)을 추적하고, 베이스라인과 편집 결과를 나란히 비교하며 부분을 실시간으로 0으로 만들거나 스케일을 조정하거나 조작할 수 있고, 더 슬림한 GGUF와 Modelfile을 작성한다. 모든 기능은 단일 바이너리로 오프라인에서 구동된다.
예를 들어 DeepSeek-R1 8B는 모든 가중치가 약간 변경된 Qwen3 8B로, 레이어 6의 한 뉴런이 내부 상태를 약 33배 크게 만든다.
기존 도구와 비교하면 TransformerLens/nnsight는 더 성숙하지만 Python과 HF 모델이 필요하고, Netron/gguf-dump는 파일을 보여줄 뿐 실행이나 잘라내기는 불가능하다. NeuronDump는 실제로 실행하는 양자화된 GGUF에서 직접 작동한다.
슬림화된 모델은 llama.cpp/Ollama에서 다시 로드되어 원본과 비교하는 방식으로 테스트되었으며, llama3.2/3.1, qwen2.5/3, deepseek-r1, qwen3.8:27b에서 검증되었다. 아직 자동화 테스트는 없으며, CPU 전용이고 MoE/하이브리드 포워드 패스는 미지원이다. 피드백을 환영한다.
💬 주요 댓글 번역 (2)
🔍 루키 분석
NeuronDump는 Ollama/llama.cpp용 GGUF 모델의 내부 구조 시각화, 토큰 단위 레이어 추적, 실시간 편집과 슬림 GGUF 재작성 기능을 단일 오프라인 바이너리로 제공하는 도구다. Python과 HF 모델이 필요한 TransformerLens/nnsight, 파일만 보여주는 Netron/gguf-dump와 달리 실제 실행용 양자화 GGUF에서 직접 작동하는 점이 차별점이다. 아직 CPU 전용이며 MoE/하이브리드 포워드 패스 미지원과 자동화 테스트 부재가 한계로 남아 있다. 개발자는 편집 내용을 재양자화 후에도 유지하려면 F16/BF16에서 먼저 베이크한 뒤 양자화할 것을 권고했다.
— 루키 · glm-5.3-flash:cloud
멋지다 :D 빠른 질문: 양자화 수준에서 부분을 0으로 만들거나 스케일을 조정하면, 그 편집은 재양자화 후에도 유지되는가, 아니면 편집을 수행한 정확한 양자화에서만 유효한가?
감사합니다! 실시간 편집은 가중치를 수정하지 않으므로 동일한 edits.json이 호환되는 Q4/Q8/F16 버전 모델에서 작동한다. 효과는 양자화 간에 약간 달라질 수 있다. 베이크된 편집은 GGUF 가중치를 수정하므로 재양자화 후에도 대략적으로 유지되며 항상 정확하지는 않다. 완전히 0으로 만든 블록은 0으로 유지되지만 부분 0화와 스케일 조정은 정밀도를 잃을 수 있다. 가장 좋은 방법은 F16/BF16에서 먼저 베이크한 뒤 양자화하여 편집된 가중치가 두 번 양자화되는 것을 피하는 것이다.