코딩 모델 추천해 주실 분 있나요?
원문 제목 — Any recommendations for a coding model?
📄 전문 번역
작성자는 인사말과 함께 OpenCode 에이전트와 함께 사용할 로컬 모델 추천을 요청했다. 작성자는 48GB RAM을 탑재한 Mac Mini M5 Pro를 보유하고 있으며, qwen 2.5-coder와 qwen 3.8:27b에 대한 정보를 접한 뒤 두 모델을 모두 다운로드했다.
qwen 3.8 27b를 시험한 결과 정상적으로 작동했고, 메모리 압력은 때때로 초록색, 때때로 노란색을 나타냈다. ollama는 해당 모델이 100% GPU에 있다고 알리지만 작성자는 이를 믿어야 할지 확신하지 못하고 있다. 지금까지는 문제가 생긴 것이 아니라 잘 작동하고 있는 상태다.
작성자는 다른 모델을 시도해 볼지 고민하며, 경험에 기반해 어떤 모델을 추천하는지, 무엇이 가장 잘 작동하는지 물었다. 클라우드 모델이 최선이라는 점은 이미 알고 있다는 말과 함께 감사 인사로 글을 마쳤다. 이 글은 /u/Calm-Set6265가 제출했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
Mac Mini M5 Pro 48GB 환경에서 OpenCode 에이전트용 로컬 코딩 모델을 찾는 사용자의 질문에 대해 커뮤니티는 qwen3.8-27b를 Q5 양자화로 구동하고 xhigh 추론 강도를 유지할 것을 핵심 조언으로 꼽았다. 빠른 대화형 작업에는 qwen3.6-35b-a3b, 검증된 대안으로는 Qwen 2.5-coder 32b가 언급됐다. 다만 해당 모델 계열이 파이썬과 node에는 강하지만 C#, 자바, 모바일 앱 개발에서는 성과가 아쉽다는 평가도 함께 나왔다.
— 루키 · glm-5.3-flash:cloud
코드 품질 면에서는 qwen3.8-27b보다 나은 모델을 그 하드웨어에서 찾기 어려울 것이다. 양자화 버전(Q5)을 사용하면 KV 캐시(컨텍스트)에 여유 공간이 더 생긴다. xhigh 추론 강도에서는 작업을 맡겨두고 완료될 때까지 기다리는 바이브 코딩 세션에 더 적합하다. low 추론 강도에서는 대화형 개발에 무난하게 작동한다. 모델에게 추가할 특정 코드를 지시하는 방식의 빠른 상호작용을 원한다면 qwen3.6-35b-a3b가 좋은 선택이다. 이는 시니어 엔지니어가 개발하는 것이라기보다 주니어 개발자를 두고 일시키는 것에 가깝다.
감사하다는 답변과 함께, 먼저 계획하고 수정 사항을 반영한 뒤 승인하는 접근 방식이 정말 마음에 들며 평소 AI와 작업할 때도 그런 방식을 사용한다고 밝혔다.
qwen3.8-27b q4를 48GB VRAM에서 약 400k 컨텍스트로 구동하며, qwen-code 에이전트, 커스텀 세션 압축 서비스, 커스터마이즈된 스킬, codebase-memory-mcp, supermemory를 함께 사용한다. 스킬을 다듬어 가는 과정에서는 루프가 득이 된다. agentskills.io 사양과 모범 사례를 반드시 따르고, 추론은 파이썬이 할 수 없는 일에만 사용한다는 지침을 지킨다. 이 모델은 파이썬과 node에서는 정말 뛰어나지만 C#, 자바, 모바일 앱 개발에서는 만족스러운 성과를 내지 못했다. 생각을 정리하는 데 시간이 걸리므로 xhigh 사고 강도에서 바꾸지 않아야 하며, 바꾸면 완전히 쓸모없어진다.
Qwen 2.5-coder 32b는 유사한 환경에서 에이전트 작업용으로 꾸준히 써 온 모델이다. 48GB 범위에 잘 들어맞고, 대형 컨텍스트 창을 함께 돌리지 않는 한 빠른 반응 속도를 유지한다. 다른 작업을 위한 여유를 확보하고 싶다면 14b 버전도 의외로 쓸만하다. 3.8은 아직 시험해 보지 않았지만 메모리 압력이 이미 노란색을 오간다면 주시할 필요가 있다. OpenCode는 도구 호출이 잦아져 컨텍스트가 빠르게 불어날 수 있다.
unsloth의 qwen 3.8 27B Q8/Q6를 llama.cpp에서 256k 컨텍스트 창, 8k의 high 추론, vision 비활성화 설정으로 구동한다. 웹 검색 도구를 붙여 주는 것이 좋은데, 필자는 월 1500회 검색을 제공하는 brave의 무료 검색 API를 사용한다.