UkisAI가 Qwen 3.8 27B를 후학습해 효율을 높인 Swift-Qwen3.8-27B를 공개했다. 과잉 사고(overthinking)와 연관된 토큰을 찾아 추론 길이를 직접 줄이지 않으면서 페널티를 부여하고, On-Policy Distillation 등 비법 소스로 정확도를 보완해 사고 토큰 58% 감소, 1.95배 속도 향상, 1% 미만 정확도 손실을 달성했다고 밝혔다. 모델은 Hugging Face에 공개됐고, Nvidia가 GPU를 지원한 연구 목적 무료 API(OpenAI 호환, 분당 5요청 제한)도 제공한다. Q1~Q8 GGUF 양자화와 Bartowski 등 커뮤니티 양자화, NVFP4·W4A16·Uncensored 파생 모델도 Hugging Face에 올라와 있다.

이 훈련 방식은 추론 노력 설정, 채팅 템플릿, 토큰 상한의 대체재가 아니라 보완재라고 강조했다. 과잉 사고와 '불안 유사' 추론 루프는 PTQ에서 보고됐지만 이 크기 클래스 BF16 모델에서도 두드러지며, 적절히 표적화하면 답변 품질에 기여하지 않는다는 것이 팀의 논지다. 추론 길이는 매우 중요해 억지로 줄이면 안 되고 최적화해야 한다는 입장이며, xhigh 대비 medium 노력 벤치마크 표로 이를 입증했다.

양자화된 Qwen 3.8 27B 인스턴스에서 무작위 추론 루프가 medium·low 설정에서도 지속되자 Meta의 PTQ 대상 논문을 적용했으나 결과가 엇갈렸다. 8xH100 장비로 코딩·언어·비전·에이전틱 등 도메인 외 트레이스를 대량 생성해 과잉 사고 사례를 묶어 공통 토큰을 찾고 가장 두드러진 것을 표적화했다. 논문 방식의 추론 시점 페널라이저로 교차 엔트로피 SFT를 시도했으나 실패했고, 대신 이 페널라이저가 저정밀 모델뿐 아니라 BF16에서도 더 잘 작동해 실험을 이어갔다. 식별한 토큰으로 손실 함수를 만들어 생성해 둔 트레이스에 LoRA SFT를 돌리자 추론 감소가 일반화됐고, RL(GSPO), On-Policy Distillation, ThinkingCap 3.6 27B 어댑터 청크 등을 실험해 대부분의 자체 OOD 테스트에서 1% 미만 정확도 손실로 회복했다.

신뢰할 만한 점수를 위해 벤치마크를 각 10회(베이스 5회 + 어댑터 5회, Terminal Bench의 Qwen 3.6 27B 모델 카드 절차 준용) 실행했고, 원본 벤치마크 파일은 GitHub에 공개했다. 그 결과 GPQA, MMLU, Terminal Bench 2.1, LiveCodeBench v6, ERQA, C-Eval, IFBench, HMMT25에서 토큰 40~60% 감소와 1% 미만 정확도 손실로 수렴했고, AIME26만 4.6% 손실을 보였는데 이는 수학 추론 관련 특정 토큰이 페널티를 받은 훈련 버그로 추정돼 수정판을 준비 중이다. 벤치마크 수치는 GPQA-Diamond 88.4% 대 88.3%(토큰 58% 감소), LiveCodeBench v6 76.8% 대 81.6%(기본 잘림 때문에 성능 향상 아님, 토큰 46% 감소), Terminal-Bench 2.1 66.7% 대 65.8%(39% 감소), MMLU-Pro 85.5% 대 85.0%(28% 감소), C-Eval 90.0% 대 90.6%(19% 감소), IFBench 73.5% 대 71.8%(51% 감소), AIME 2026 98.7% 대 94.0%(50% 감소), HMMT(2025년 11월) 99.3% 대 96.0%(46% 감소)다.