안녕하세요 여러분, 이전에 게시한 4B 모델에 대한 간단한 업데이트를 공유하려고 한다. 영상은 최신 체크포인트의 결과 일부를 보여준다. 여전히 Qwen3.5-4B 파인튜닝 모델을 일반 코딩용으로 학습 중이며, 당분간 Three.js 씬 생성을 주요 테스트로 사용하고 있다. 일부 씬은 첫 시도에서 아직 엉망이 되기도 하지만, 최신 체크포인트들은 씬 품질과 원샷 성공률 모두에서 눈에 띄게 좋아지고 있다.

Q4_K_M과 Q8_0 두 가지를 모두 업데이트했으며, 이전 파일에서 일부 사용자가 겪었던 레이어 문제를 수정했다. 업데이트된 버전은 공개된 링크에서 내려받을 수 있다.

또한 각 체크포인트의 테스트 결과를 저장해 왔으므로, 여러 프롬프트로 비교하여 학습 전반에 걸쳐 모델이 어떻게 개선되었는지 보여주는 보고서를 작성할 수 있다. 모든 것이 계획대로 진행된다면 학습은 10월 28일 07:30 UTC경 완료될 예정이다. 그 후 FP16 전체 가중치, 모든 양자화 버전, 학습 데이터셋, 기술 보고서를 공개할 계획이다.

여전히 이 작은 4B 모델을 어디까지 끌어올릴 수 있을지 궁금하다. 직접 사용해 본다면 잘 되는 것과 안 되는 것을 모두 공유해 주면 큰 도움이 된다.