화제를 모으는 Qwen3.8의 신규 양자화 모델과 16GB VRAM에서 적절한 컨텍스트 길이를 확보하며 들어가는 최대 크기 양자화를 간단히 비교 테스트했다. 결과는 흥미로웠다. 물론 파일 크기가 작은 쪽이 더 나쁜 결과를 냈지만 격차는 크지 않았다. 다만 Bonsai 모델이 더 많은 토큰을 소비해 생성 시간이 훨씬 길어지는 대가가 따랐다. 시각적으로는 IQ3_XXS 결과를 더 선호하지만 독자가 직접 판단하기 바란다. 이 테스트는 과학적인 방식이 아니며 동일한 하드웨어에서 직접 비교하기 위한 몇 가지 UI 생성 작업일 뿐이다. 또한 llama.cpp를 MTP와 함께 구동했는데 Bonsai 모델은 MTP를 지원하지 않는 것으로 보여 속도가 더 느려졌다.

세부 지표를 보면 Qwen IQ3는 작업 완료 4/4, 고정 어설션 20/20, 에이전트 실행 시간 8분 0초, 출력 토큰 27,197개, 가중 디코드 속도 83.59 tok/s, 추측 수용률 65.22%(MTP), 컴팩션 0회, 길이 정지 0회를 기록했다. Bonsai PQ2는 작업 완료 4/4, 고정 어설션 20/20, 에이전트 실행 시간 24분 9초, 출력 토큰 84,176개, 가중 디코드 속도 64.91 tok/s, 추측 수용률 39.76%(수정된 N-gram), 컴팩션 0회, 길이 정지 1회를 기록했다.

전체 테스트 스위트에서 Qwen은 3.02배 빠르게 완료했고 출력 토큰을 3.10배 적게 사용했다. 상세 결과는 결과 페이지와 GitHub 저장소를 통해 공개되었다.