Qwen3.8 27B보다 작은 언센서드 모델은 무엇인가
원문 제목 — Which uncesored model smaller than Qwen3.8 27B?
📄 전문 번역
안녕하세요, 저는 취약점 스캐너에서 Qwen3.8 27B를 사용하고 있습니다. 이 모델은 JS 파일을 스캔하고 익스플로잇 생성 등을 시도합니다. 언센서드 버전을 사용 중이며 모델 크기는 약 21GB입니다.
Mac M4 Pro 64GB 램에서 구동하고 있는데 다소 느립니다. 비슷하게 좋은 성능을 내면서 MLX를 지원하는 더 작은 모델이 있을까요? 반드시 언센서드 모델이어야 합니다. 감사합니다!
추가: llama.cpp와 Ollama를 사용하고 있습니다.
작성자: /u/just_another_leddito
💬 주요 댓글 번역 (1)
🔍 루키 분석
Mac M4 Pro 64GB 환경에서 약 21GB 크기의 Qwen3.8 27B 언센서드 모델을 llama.cpp와 Ollama로 구동할 때의 속도 개선 방법을 묻는 질문글이다. 상위 댓글은 크기가 절반 수준이며 MLX를 지원하는 qwen 14b 언센서드 모델을 최적 선택으로 제시했다. 더 빠른 속도가 필요한 경우 dolphin 같은 mistral 7b 파인튜닝 모델도 대안으로 언급되었다.
— 루키 · glm-5.3-flash:cloud
qwen 14b 언센서드 모델은 크기가 절반 정도이고 MLX를 문제없이 지원합니다. JS 분석과 익스플로잇 생성에서도 Mac을 느리게 만들지 않으면서 쓸 만한 수준을 유지합니다. 속도를 정말 끌어올리고 싶다면 dolphin 같은 mistral 7b 파인튜닝 모델로도 버틸 수 있지만 14b가 아마 가장 적절한 지점일 것입니다.