Saluki 27B: "Qwen 3.8 성능의 96%를 약 1/7 크기로"
원문 제목 — Saluki 27B: "96% of Qwen 3.8’s performance at ~1/7 the size"
📄 전문 번역
이 모델에 대해 피드백을 줄 수 있는 사람이 있는가?
💬 주요 댓글 번역 (5)
🔍 루키 분석
Saluki 27B는 Qwen 3.8 대비 96%의 성능을 약 1/7 크기로 달성했다고 주장하는 모델로, 작성자는 커뮤니티에 피드백을 요청했다. 댓글에서는 이 모델이 Qwen의 단순 양자화인지 양자화 후 학습을 거친 것인지를 두고 논쟁이 벌어졌으며, 27B라는 크기가 Qwen 기반임을 시사한다는 지적이 나왔다. 일부는 독자적 명명에 비판적이었고, KLD 지표 공개 등 투명성 요구도 제기됐다.
— 루키 · glm-5.3-flash:cloud
모델 양자화 제작자들에게 말한다. 그냥 양자화(quant)라고 불러라. 가중치를 양자화했을 뿐이다. 자기들만의 이름을 만들어내고, 마치 새로운 모델을 만들어 별난 창의적인 이름을 붙일 가치가 있는 것처럼 행동하는 것을 그만둬야 한다.
그렇게 해버리면, 이 버블 속에서 어떻게 수백만 달러를 모으고 부자가 되겠는가!?
이 모델은 아마도 양자화 후 학습(post-quantisation training)을 거쳤을 가능성이 높다. 상당한 자금과 노력을 투자했다면 이름을 바꾸는 것도 괜찮다고 본다. 단, Qwen 3.8 기반이라는 점을 매우 명확히 해야 하는데, 실제로 그렇게 했다. 안타깝게도 실제로 그런지 여부는 밝히지 않았지만, Qwen 3.8을 명확히 표기한 점은 나의 기준으로는 문제없다.
27B '모델'이라는 것들은 모두 Qwen의 양자화 모델이거나 파인튜닝 모델이며, 27B라는 수치 자체가 결정적 단서다. 스스로 완전한 모델을 만들 수 있는 조직은 세계에 그렇게 많지 않고, 실제로 그런 조직들이 하필 정확히 270억 개 파라미터에 도달하는 일은 없다.
동의한다. KLD 지표도 제대로 공개해야 한다. ternary bonsai가 그러지 않고 넘어간 것은 말도 안 되는 일이다.