최고의 로컬 LLM - 2026년 8월
원문 제목 — Best Local LLMs - August 2026
📄 전문 번역
와우!! 오픈 웨이트 모델에게 이보다 좋아질 수 없다고 생각했던 바로 그때, 아마도 지금까지 최고의 시기를 맞이한 것 같습니다!?!?! 폐쇄형 프론티어에 필적하는 모델, 터무니없는 하드웨어가 아닌 환경에서 구동되는 Opus 수준의 모델 등이 등장했습니다. 두 폐쇄형 모델 거인의 로비 활동에 맞서 오픈 AI를 지지하기 위해 대규모 업계 동맹이 나섰습니다. 이것이 최고의 타임라인일까요? 누군가 저를 꼬집어 주세요! 아니면 지금 가장 좋아하는 모델이 무엇인지 그냥 알려주세요.
표준 안내: 지금 구동 중인 모델과 그 이유를 공유해 주세요. LLM 평가라는 것의 특성상(벤치마크의 신뢰성 부족, 미성숙한 도구, 내재적 확률성) 셋업, 사용 형태(사용량, 개인용/업무용 여부), 도구/프레임워크/프롬프트 등을 최대한 상세하게 설명해 주시기 바랍니다.
규칙: 오픈 웨이트 모델만 해당됩니다. 가독성을 위해 아래 각 용도별 최상위 댓글에 답변을 스레드로 달아 주세요. General: 실용적 가이드, 하우투, 백과사전식 QnA, 검색 엔진 대체/보강을 포함합니다. Agentic/Agentic Coding/Tool Use/Coding, Creative Writing/RP, Speciality 카테고리가 있습니다. 누락된 카테고리가 있다면 Speciality 댓글 아래에 최상위 댓글을 새로 만들어 주세요.
참고: 모델 메모리 사용량별로 추천을 분류하면 가산점이 주어집니다(각 크기 범위에서 서로 다른 작업에 여러 모델을 사용할 수 있으며 그렇게 하는 것이 좋습니다). Unlimited: 128GB 초과 VRAM, XL: 64~128GB VRAM, L: 32~64GB VRAM, M: 8~32GB VRAM, S: 8GB 미만 VRAM.
/u/rm-rf-rm님이 게시함 [링크] [댓글]
💬 주요 댓글 번역 (5)
🔍 루키 분석
이 게시물은 2026년 8월 기준 최고의 로컬 LLM을 묻는 월간 커뮤니티 토론 스레드로, 오픈 웨이트 모델이 폐쇄형 프론티어에 필적하는 수준에 도달했으며 Opus 수준 모델이 일반적인 하드웨어에서 구동 가능해졌다는 평가를 담고 있다. 게시자는 VRAM 용량별 등급 체계를 제시하며 사용자들이 General, Agentic Coding, Creative Writing 등 용도별 카테고리로 자신의 셋업과 사용 사례를 공유하도록 요청한다. 댓글에서는 16GB VRAM 등급 누락에 대한 지적과 더불어 일부 사용자가 수백 GB에서 수 TB 규모의 모델 컬렉션을 보유하고 있음을 보여주는 디스크 사용량 출력이 이어진다.
— 루키 · glm-5.3-flash:cloud
GENERAL
다음 게시물에서는 16GB를 등급에서 제외하거나 건너뛰지 말아 주세요. Steam 하드웨어 설문조사에 따르면 16GB가 가장 많이 쓰이는 용량입니다. 임의적인 'S'나 'M' 라벨도 필요 없습니다. 대부분의 하드웨어가 그런 식으로 나오므로 흔한 2진 간격의 숫자를 그대로 사용하세요. 또한 여러 모델을 추천하는 것이 다수 사용자에게 좋은 조언이라고는 생각하지 않습니다.
'로컬 모델 74개가 디스크 공간 840.30GB를 차지하고 있습니다'라는 알림을 봤는데, 이건 정상이 아닌 건가요?
문제가 있습니다. ac@core:/rustpool1/ac/models$ du -h --max-depth=1 744G ./Stepfun-AI 238G ./Nvidia 33G ./Google 2.1T ./Zai 245G ./Minimax 2.2T ./Qwen 1.9T ./DeepSeek 20G ./01ai 134G ./Llama 167G ./BlackForestLabs 1.8T ./Mistral 355G ./OpenAI 9.8T .
당신 쪽이 확실히 제 것보다 심하네요 ;) 아, 그건 LLM만 해당된 얘기고요. 저는 이미지/비디오 생성용 모델과 LoRA로 1TB를 따로 보유하고 있습니다 ;) VRAM이 잔뜩 있다면 아마 더 많이 갖고 있었겠지만, 소형 모델만 구동할 수 있는 사정이라 제한적이네요.