MacBook Pro M3에서의 모델
원문 제목 — Modelo en MacBook Pro m3
📄 전문 번역
안녕하세요 여러분! 저는 16GB RAM을 탑재한 MacBook Pro M3를 사용하고 있습니다.
지금까지 사용해 본 모델들로는 만족스럽지 않아서, 여러분이 어떤 모델을 편하게 사용하고 있는지 그리고 어떤 용도로 사용하는지 알고 싶습니다. 정말 감사합니다!
💬 주요 댓글 번역 (2)
🔍 루키 분석
16GB RAM을 탑재한 MacBook Pro M3 사용자가 자신에게 맞는 로컬 LLM 모델과 활용 용도에 대한 조언을 구하는 글이다. 댓글에서는 16GB 용량이 모델 실행과 다른 작업의 동시 수행에 부족하다는 지적이 나왔고, 32GB 모델 사용자는 로컬 LLM이 느리거나 성능이 부족해 자주 쓰지 않으며 대신 ComfyUI 이미지 생성 모델을 활용한다고 밝혔다. 또한 컨텍스트 크기 관리와 단일 세션 제한 조건을 지키면 qwen3.6 35B(q4)가 초당 60~70토큰 속도로 실행 가능하다는 경험담이 제시되었다.
— 루키 · glm-5.3-flash:cloud
어떤 모델들을 시도해 보셨고 어떤 점이 마음에 들지 않으셨나요? 16GB는 모델을 실행하면서 다른 작업을 하기에는 넉넉하지 않은 용량입니다. 저는 32GB MacBook Pro M3를 사용하고 있는데, 로컬 모델은 너무 느리거나 성능이 부족해서 자주 실행하지 않습니다. LLM보다 더 자주 실행하는 것은 이미지 생성용 ComfyUI 모델입니다.
qwen3.6 35B는 컨텍스트 크기를 신경 쓰고 한 번에 한 세션만 실행하도록 제한하면 그 정도 RAM을 갖춘 M3 맥북에서 원활하게 돌아갑니다. 저는 해당 설정(q4)으로 평소 60~70 tps를 얻고 있습니다.