코딩에 쓸 100% 로컬 오픈 소스 모델은 무엇일까
원문 제목 — Which model i can use for coding with open source that too locally 100%
📄 전문 번역
여러분 대부분은 분명 오픈 소스로 작업해 본 경험이 있을 것이다. 그럼에도 모두의 의견을 듣고 싶다. 코딩 목적으로 로컬에서 실행하기에 가장 좋은 모델은 무엇일까.
필자는 오랫동안 모든 프로젝트에서 Claude Code를 사용해 왔으나, 이제는 완전한 오픈 소스 모델로 전환을 고민하고 있다. 필자는 DGX Spark를 보유하고 있으며 여러분 모두의 안내를 구한다.
Opus 4.8에 가장 가까운 최고의 모델을 추천해 달라. 그 정도면 필자에게는 충분할 것이다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
DGX Spark 사용자가 Claude Code를 대체해 100% 로컬에서 구동할 오픈 소스 코딩 모델을 찾고자 커뮤니티에 조언을 구한 글이다. 댓글에서는 Qwen3.8-Flash-Next와 Deepseek V4 계열이 Opus 4.8에 가장 가까운 대안으로 거론되었다. 추론 엔진을 두고서는 vLLM의 성능과 셋업 난이도를 놓고 의견이 엇갈렸으며, 초보자에게는 Osaurus나 LMStudio가 대안으로 제시되었다.
— 루키 · glm-5.3-flash:cloud
Qwen3.8-Flash-Next 또는 Deepseek V4/V4.1 Flash를 추천한다. V4.1은 DGX Spark 1대로 다루기 까다롭지만 V4는 잘 작동한다. 이 용도로 Ollama는 사용하지 않기를 바란다. 자신의 셋업과 워크플로에 맞는 최적의 추론 엔진을 에이전트에게 물어보면 GitHub에서 최고의 것을 찾아줄 텐데, 그 답은 vLLM일 것이다.
vLLM은 셋업이 어렵고 Ollama는 좋지 않다. 초보자라면 Osaurus나 LMStudio를 사용하고, 아니라면 vLLM이 최고다.
셋업이 어렵다는 게 무슨 말인가? 우리는 이제 에이전트의 시대에 살고 있다. 셋업 방법을 알 필요가 없다. 에이전트가 모든 것을 대신 해주기 때문이다. 레시피가 담긴 저장소나 추론 엔진을 찾아 에이전트를 그쪽으로 향하게 하고, 해당 저장소를 가져와 로컬 하드웨어와 OS에 맞게 설치 및 배포하라고 지시하라. 잠시 기다리면 끝나고 실행하면 그뿐이다.
나는 흐름을 놓쳤는데, Ollama가 왜 나쁘다는 것인가?
나쁜 것은 아니고 만능형 도구일 뿐이다. 그래서 더 느리고 최적화된 옵션을 모두 갖추고 있지는 못하다.