ByteShape가 r/LocalLLaMA에 Qwen 3.8 27B용 전체 ShapeLearn GGUF 양자화 모델을 공개했다. 블로그 글과 모델 다운로드가 함께 제공된다.

요약하면 다음과 같다. 3.84 bpw(GPU-5) 양자화는 8개 벤치마크의 BF16 집계 점수 대비 99.63%에 도달해 지금까지 평가한 양자화 중 가장 정확한 모델이며, 3.23 bpw(GPU-4)는 98.72%를 기록했다. 이 수치는 instruct 및 thinking 벤치마크 전반의 BF16 정규화 점수 평균이다. 신규 5개 모델 모두 6개 GPU에서 측정된 품질·속도-bpw 프론티어 위에 위치하며, 이 모델의 경우 낮은 BPW가 TPS로 직결된다. 비교 대상에는 Unsloth v3, ISTA-DASLab, AtomicChat, Bartowski(최신 릴리스는 제외)가 포함됐으며, ISTA 팀 역시 프론티어에 오른 모델을 내놓은 것에 축하를 보낸다.

DFlash2는 기준 대비 1.34~2.10배의 처리량을, MTP는 greedy 디코딩 대신 temperature 샘플링을 적용해 1.28~1.66배를 기록했다. Lite는 예상대로 매우 잘 버텼다. ByteShape는 Qwen 출시 며칠 뒤 ShapeLearn-Lite 양자화를 공개했는데, 최적화는 덜하고 목표한 정상 동작 점검만 거친 뒤 출시 후 전체 벤치마킹을 진행한 것이었다. 이후 Unsloth v3가 여러 비슷한 크기에서 더 낮은 KLD로 등장하면서 Lite는 밀린 듯 보였지만, 작업 결과가 나오자 상황이 달라졌다. RTX Pro 6000 비교에서 6개 Lite 모델 중 3개가 12개 Unsloth v3 모델을 상대로 품질·속도 프론티어에 올랐고, 전체 ShapeLearn은 이제 그 프론티어를 더 앞으로 밀어낸다.

이어서 KLD 이야기다. Unsloth Dynamic V3의 UD-IQ3_S는 비슷한 크기의 가장 작은 Lite 모델보다 KLD가 약 20% 낮았지만, BF16 집계 벤치마크 점수 대비 95.55%를 기록해 Lite의 97.33%에 못 미쳤다. 토큰 분포가 더 가깝다고 작업 성능이 좋아지는 것은 아니었다. KLD는 한계를 넘어 무너진 양자화를 걸러내는 데는 유용하지만 양자화 리더보드는 아니라는 것이며, 이 구분이 바로 최근 EMNLP 2026 Industry Track 게재가 승인된 KLD와 양자화 충실도에 관한 논문의 주제다. 논문의 블로그 버전도 몇 주 전 공개됐다.

이번 릴리스는 RTX 6000 Pro Blackwell, RTX 5090, RTX 4090, RTX 3090, RTX 4080, RTX 5060 Ti에서 벤치마킹됐다. 품질 측정에 사용된 벤치마크는 수학용 GSM8K, 지시 이행용 IFEval, 일반 지식용 MMLU, 코딩용 LiveCodeBench V6, 다중 턴 및 다국어 지시 이행용 Multi-IF, 도구 사용과 에이전트 작업용 ACEBench(thinking·instruct 모두), 코딩(thinking)용 Multiple HumanEval, 도구 호출과 에이전트 작업(thinking)용 BFCL V4다. 더 깊이 알아보거나 용도에 맞는 모델을 고르려면 블로그에서 테스트된 모든 GPU의 전체 결과와 방법론, 모델 크기, 전체 범례를 확인할 수 있다.