Ollama로 Qwen 3.8 flash 실행하기
원문 제목 — Qwen 3.8 flash with Ollama
📄 전문 번역
여러분 안녕하세요. Ollama에서 NVFP4 버전을 다운로드하려고 했는데 MLX 버전이 표시되었다!? 다른 분들은 이 버전에 접근할 수 있었나요? DGX를 1대만 보유하고 있어 Hermes 사용자를 위해 더 작은 용량의 버전을 원했습니다. 제안 있으시면 부탁드립니다.
💬 주요 댓글 번역 (3)
🔍 루키 분석
한 사용자가 Ollama에서 Qwen 3.8 flash의 NVFP4 버전을 다운로드하려 했으나 MLX 버전만 노출되는 문제를 보고했다. 해당 사용자는 DGX를 1대만 보유하고 있어 Hermes 사용자를 위한 작은 용량 버전이 필요하다고 밝혔다. 댓글에서는 Strix Halo에서 q4_K_M 양자화 모델을 정상 실행했다는 사례와 함께 3.8 27b 대비 코딩 성능 향상 여부는 아직 판단하기 이르다는 평가가 이어졌다.
— 루키 · glm-5.3-flash:cloud
Strix Halo에서 qwen3.8-flash-next:125b-a6b-q4_K_M 모델을 문제없이 실행할 수 있었다.
방금 다운로드를 마쳤으며 곧 작업을 하나 부여해 실행 상태를 확인할 예정이다. 스왑 영향이 있을지 살짝 걱정했지만 없을 것으로 본다.
네, 지금 실행 중이다. 3.8 27b보다 코딩에서 실질적으로 더 나은지는 확실하지 않지만 시작한 지 1시간 정도밖에 지나지 않았다.