Qwen-3.8에 대한 찬사가 많이 쏟아졌지만, 이번에는 내 차례다. Qwen-3.8과 나는 순탄하지 않은 시작을 했는데, 모델이 너무 많이 생각하기 때문이다. 작업하는 모습을 지켜보는 것은 고통스러우므로 그만둬야 하고, 감독 없이 작업하게 내버려둬야 한다. 그래도 괜찮은데, 복잡한 리팩터링을 스스로 완수하면서 그 과정에서 좋은 판단을 내리기 때문이다. 완벽하지는 않지만, 어차피 API도 마찬가지다.

모델 양자화는 Q4_K_S이고, 컨텍스트는 Q8_0으로 양자화했는데 품질 면에서는 괜찮은 것 같다. 공식 Qwen을 사용한다. Swift-Qwen을 잠깐 써봤는데 확실히 더 빠르지만 루프에 빠지는 현상이 있었고, 이는 순정 Qwen에서는 매우 드문 일이다.

Pi 에이전트에서 MCP 없이 최소한의 도구만으로 Qwen-3.8을 사용한다. Bash만으로 충분하지만 read, write, edit 도구는 유지하고 있다. Pi의 edit 도구가 가장 약한 고리인데, 모델이 들여쓰기를 망가뜨려 편집을 재시도하는 경우가 잦다. Pi에서 더 내결결성 있는 편집 도구가 나오기를 기다리는 중이며, 아마 언젠가 직접 만들어야 할 것이다.

샌드박스로는 docker를 사용한다. 내 Pi 에이전트는 Raspberry Pi에서 돌아가고 있는데 꽤 어울리는 조합이다. 내 하드웨어와 거주 지역 기준으로 100만 토큰당 입력 2.4센트, 출력 70센트로 nano-gpt.com의 가장 저렴한 제공자들과 비슷한 수준이다.