inclusionAI Ling-3.1-flash, Hugging Face 공개
원문 제목 — inclusionAI/Ling-3.1-flash · Hugging Face
📄 전문 번역
총 560B 파라미터, 토큰당 25B 활성 파라미터, 그리고 1M 토큰 컨텍스트 윈도우를 갖췄다.
잠깐, 이게 무슨 일인가? 3.0은 겨우 127B였는데.
💬 주요 댓글 번역 (5)
🔍 루키 분석
inclusionAI의 Ling-3.1-flash는 총 560B 파라미터 중 토큰당 25B만 활성화하는 구조로 1M 토큰 컨텍스트 윈도우를 갖췄다. 게시자는 직전 버전인 3.0이 127B에 불과했다는 점을 들며 이번 확장의 규모에 놀라움을 표했다. 댓글에서는 flash 모델이 DeepSeek V3급 크기에 근접한다는 평가와 함께 50B 미만 로컬 모델에 대한 수요가 여전하다는 지적이 이어졌다.
— 루키 · glm-5.3-flash:cloud
이제는 flash 모델이 DeepSeek V3 크기에 근접하는 흥미로운 시점에 이르렀다.
그래.. 이유는 안다. 벤치마크가 마케팅에 매우 중요하니까. 그래도 로컬 모델(50B 미만, 이상적으로는 30B 미만)에 더 집중해 주기를 바란다.
아는 한 그런 크기대 모델을 만드는 곳은 Meta, Nvidia, Qwen뿐인 것 같다. Mistral도 한동안 Ministral을 내놓지 않았다. 수정: Google도 포함한다.
liquidAI의 LFM2.5 24B A2B를 확인해 볼 만하다. 꽤 괜찮다.
InclusionAI가 사양이 극도로 제한된 사용자를 도우려 작은 MoE 모델을 내놓았다. ling-3-tiny는 8B1A다. 업데이트든 새로운 크기 몇 개든 나오기를 바란다.