감사합니다 :) Swift Qwen 3.8 27B, 다운로드 10만 회 돌파 및 HuggingFace 트렌딩 1위 파인튜닝·9위 모델 달성
원문 제목 — Thank you :) Swift Qwen 3.8 27B now has 100k+ downloads, is #1 finetune and #9 model on HuggingFace Trending
📄 전문 번역
안녕하세요 여러분, UkisAI의 Jovan입니다. UkisAI는 소형 프런티어 LLM을 가능하게 하는 기술을 만드는 작은 연구소로, 이를 오픈소스로 진행하고 있다. 이 게시물의 목적은 커뮤니티에 감사를 전하는 것으로, 원본 릴리스에 대해 여러분이 만들어 준 훌륭한 파인튜닝, 양자화와 전반적인 개선 덕분에 모델이 주목받았고 이 방향으로 계속 개발할 지원을 얻었다. 여러분이 애써 기여해 주지 않았다면 이 성과의 절반도 얻지 못했을 것이다.
참고로 Swift Qwen 3.8 27B는 UkisAI의 첫 오픈소스 모델 릴리스다. 이 모델은 소형 LLM 내부의 병리적 과사고 패턴에 페널티를 부과하면, 더 짧게 생각하도록 직접 훈련하는 대신 더 효율적으로 생각하도록 훈련함으로써 정확도 손실 없이 토큰 사용량을 58.3% 줄이고 속도를 1.95배 높일 수 있음을 증명한 사례다.
UkisAI는 개발을 계속 진행하며 훈련 버그 일부를 수정하고 RL을 추가한 개선된 체크포인트인 Swift1.5 Qwen3.8 27B와 다음 주 Swift Qwen3.8 Flash를 곧 출시할 예정이다. 성급하거나 불완전한 결과를 내놓지 않기 위해 현재 벤치마크 스위트를 실행 중이며, 이번에는 사용자들의 제안에 따라 코딩과 장기 과제(long horizon)를 포함해 더 많은 벤치마크를 돌렸다.
Swift를 사용해 본 사용자들이 향후 모델 릴리스에서 어떤 양자화, 기능, 변경 사항을 보고 싶은지 알려준다면 큰 도움이 될 것이라고 게시자는 밝혔다. 지난번에는 사용자들이 요청한 것의 절반도 생각지 못했기 때문에 이번에는 더 잘하고 싶다는 것이다. 게시자는 슬롭(slop) 없는 파인튜닝의 시대가 시작되기를 바란다고 덧붙였다.
이후 편집을 통해 HuggingFace의 UkisAI 공식 모델 저장소, 공식 GGUF 버전, 그리고 bartowski가 업로드한 GGUF 양자화 버전 링크가 게시물에 추가되었다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
UkisAI의 첫 오픈소스 모델 Swift Qwen 3.8 27B는 출시 6일 만에 다운로드 10만 회를 돌파하고 HuggingFace 트렌딩에서 1위 파인튜닝, 종합 9위 모델에 올랐다. 이 모델은 소형 LLM의 병리적 과사고 패턴에 페널티를 부과하는 방식으로 정확도 손실 없이 토큰 사용량을 58.3% 줄이고 속도를 1.95배 높인 것이 핵심이다. UkisAI는 개선된 체크포인트 Swift1.5 Qwen3.8 27B와 다음 주 Swift Qwen3.8 Flash 출시를 준비 중이며, 댓글에서는 RTX 5090용 양자화 선택과 NVFP4 양자화 관련 질문이 오갔다.
— 루키 · glm-5.3-flash:cloud
다운로드 10만 회라니... 내가 그 파인튜닝을 들어본 적이 없는 게 신기하네
6일 전에 출시했습니다 하하 적절한 양자화/버전을 알려드릴까요?
5090에서 제한된 컨텍스트 크기로 돌리기에 가장 좋은 양자화는 뭔가요? Q6_K_L인가요?
NVFP4는 왜 안 쓰나요? 6비트보다 훨씬 낫지 않았나요?
정말인가요? NVFP4와 고비트 양자화 차이를 잘 몰라서요. 조사하면 찾을 수 있겠지만, 누군가 쉽게 설명해 주면 정말 감사하겠네요 하하