M1 Max 64GB에서 Qwen 구동: 코딩 작업을 끝까지 완료하게 하는 방법은?
원문 제목 — Qwen on M1 Max 64GB: how are you getting it to finish coding tasks?
💬 주요 댓글 번역 (4)
🔍 루키 분석
M1 Max 64GB 맥에서 Qwen 모델이 코딩 작업을 끝까지 완료하지 못하는 문제에 대한 사용자 토론이다. 댓글에서는 컨텍스트를 16k~24k로 낮춰 KV 캐시가 통합 메모리로 넘치는 것을 막는 방법과 RAG에 Knowledge Graph를 결합하는 방법이 제안됐다. 파일 전체 재작성 시에는 잘 작동하지만 부분 수정 시 문제가 된다는 경험담도 공유됐다.
— 루키 · glm-5.3-flash:cloud
컨텍스트를 16k나 24k로 낮추고 liteLLM 타임아웃도 줄여라. M1 Max에서 27b 모델을 64k로 돌리면 KV 캐시가 통합 메모리로 넘어가는 순간 성능이 급락하며 멈춘다. 48k에서 컴팩트하는 건 이미 너무 늦다.
형편없는 물건이다. 팔고 PC를 사라.
RAG만으로는 맥락을 잡을 수 없다. 나에게 효과가 있었던 방법은 Knowledge Graph와 결합해 검색이 단순히 유사한 청크가 아니라 개체 간 관계를 가져오게 하는 것이다. Ollama에서 로컬 임베딩으로도 잘 돌아간다.
답답한 마음을 이해한다. 나도 같은 문제를 겪고 있다. Qwen 3.8은 파일 전체를 다시 쓸 때는 최상의 성능을 보이는 것 같다. 부분적으로 들어가 작은 수정을 할 때는 엉뚱하게 작동하는 것 같다.