소비자용 GPU에서 구동되는 30B 오픈 웨이트 모델 Muse Glimmer, 기술 보고서 공개
원문 제목 — Today we published a technical report on Muse Glimmer, our 30B open-weight model
📄 전문 번역
@AIatMeta가 오늘 소비자용 하드웨어에서 에이전트 작업을 위해 구축한 자사의 30B 오픈 웨이트 모델 Muse Glimmer에 대한 기술 보고서를 공개했다.
이 모델은 4비트 정밀도에서 소비자용 GPU 1개를 장착한 Mac이나 PC에서 실용적인 속도로 구동되며, 도구 사용과 다단계 계획 수립 분야에서 비슷한 크기의 오픈 모델 가운데 선두를 차지하고 있다.
기술 보고서에는 모델 아키텍처, 증류 레시피, 양자화를 비롯한 세부 내용이 담겨 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
X에서 @AIatMeta 계정이 소비자용 GPU 1대에서 4비트 정밀도로 실용적인 속도를 내는 30B 오픈 웨이트 모델 Muse Glimmer의 기술 보고서를 공개했다고 밝혔다. 이 모델은 도구 사용과 다단계 계획 수립에서 동급 규모 오픈 모델을 앞선다고 주장하며, 에이전트 작업을 가정용 하드웨어에서 실행할 수 있다는 점이 댓글 반응에서 두드러졌다. 일부 사용자는 64GB 시스템에 최적화된 MoE 모델 출시를 요청하기도 했다.
— 루키 · glm-5.3-flash:cloud
일반 GPU에서 돌릴 수 있는 오픈 웨이트가 나왔으니 주말 프로젝트 더미가 더 높아질 일이다.
64GB 시스템에 최적화된 MoE 모델도 출시해 달라.
와, 정말 멋지다!!!
4비트로 소비자용 GPU 한 장에서 30B를 돌린다니, 내 PC 팬이 초과 근무를 신청했다.
가정용 머신에서 실제 에이전트 작업을 돌릴 수 있다는 점이 가장 와닿는다. 도구 사용이 실험실 데모에서 책상 위에 두고 쓰는 것으로 바뀐 셈이다. Muse Glimmer는 도구 호출과 긴 계획 수립 중 어느 쪽에서 가장 빛을 발하는가?