이 서브레딧에서 AI를 실제로 구동할 수 있는 사양을 올린 사람은 이번이 처음이다. 이런 질문은 구글이나 AI에 자신의 필요에 맞춰 물어보면 된다. 마지막으로 들었을 때 구글 모델들은 좋았지만 아마 outdated되었을 것이다. muse 모델들이 좋다고 들었지만 ollama가 아직 지원하는지는 모르겠다.

그 사양이면 대부분의 14b 모델을 쾌적하게 구동할 수 있고, 느린 생성 속도를 감수한다면 q4 양자화의 32b도 가능하다. 4060의 8GB VRAM이 더 큰 모델에서는 병목이지만 시스템 RAM이 오프로딩 여유를 제공한다. codellama 13b나 deepseek coder v2로 시작하는 것을 추천하며, 둘 다 32b급 성능 없이도 코드를 잘 처리한다. 더 최신 모델을 원하면 qwen 2.5 coder 14b도 잘 돌아간다.

감사한다. 이 중 하나를 시도해 보겠다.

월 20달러짜리 구독으로 여러 모델을 서브 에이전트나 다른 워크플로우의 일부로 동시에 활용할 수 있는 것이 답이다. 월 100달러라도 회수하는 데 수년이 걸린다.

Qwen 3.6 35B와 Ornith, tiel coder 등 여러 변형 모델이 있다. strata를 사용해 Qwen 3.8 flash next coder를 억지로 구동해 볼 수도 있다.