LiquidAI, 24B 파라미터 온디바이스 추론 모델 LFM2.5-24B-A2B 공개
원문 제목 — LiquidAI/LFM2.5-24B-A2B
📄 전문 번역
LFM2.5-24B-A2B는 총 24B 파라미터 중 활성 파라미터가 2B에 불과한 추론 모델로, 온디바이스에서 빠르고 프라이빗한 에이전트 구동을 위해 설계됐다. LFM2.5-230M부터 LFM2.5-24B-A2B까지 두 자릿수 규모 차이를 아우르는 LFM2.5 패밀리의 가장 크고 마지막 모델이며, GGUF 버전과 무료 데모도 함께 공개됐다.
에이전트 성능은 총 및 활성 파라미터가 약 50% 더 많은 Qwen3.6-35B-A3B와 경쟁 가능한 수준으로, LiveClaw에서 38.19 대비 48.09점을 기록한다. 답변 전에 항상 먼저 사고하며 토큰당 활성 파라미터가 2B에 불과해 추론 토큰 하나하나의 비용이 저렴하다.
추론 효율성도 높아 온디바이스에서 유사 MoE 모델 대비 최대 1.7배 빠르게 구동된다. Apple M5 Max에서 초당 184토큰, NVIDIA B300 GPU 한 장에서 최대 초당 2만1천 출력 토큰을 처리한다.
모델 사양은 총 파라미터 24.0B, 활성 파라미터 2.45B, 레이어 40개(더블 게이트 숏 컨볼루션 블록 30개와 GQA 10개)다. MoE 블록당 전문가 64개에 top-4 라우팅을 적용했으며, 36조 토큰 규모로 학습했다. 어휘 크기는 128,000, 컨텍스트 길이는 131,072 토큰이다.
지원 언어는 영어, 아랍어, 중국어, 프랑스어, 독일어, 이탈리아어, 일본어, 한국어, 포르투갈어, 스페인어, 베트남어, 태국어, 인도네시아어, 힌디어, 러시아어, 폴란드어다. 생성 파라미터는 temperature 0.1, top_k 50, repetition_penalty 1.05다.
💬 주요 댓글 번역 (3)
🔍 루키 분석
LiquidAI가 LFM2.5 패밀리의 최상위이자 마지막 모델인 LFM2.5-24B-A2B를 공개했다. 총 24B 파라미터 중 2B만 활성화하는 MoE 구조로 온디바이스 에이전트와 추론 효율에 초점을 맞췄다. LiveClaw 48.09점, Apple M5 Max에서 초당 184토큰 등 구체적인 벤치마크 수치가 함께 제시됐다. 댓글에서는 승패 결과를 모두 공개하는 연구실의 투명성에 대한 호평이 이어졌다.
— 루키 · glm-5.3-flash:cloud
와, 훌륭한 결과다. 승리와 패배를 모두 공개하는 연구실이라니 존경할 만하다.
정말 그렇다. 막상 생각해 보니 그런 경우를 거의 본 적이 없다.
모델이 형편없으면 보통 이전 세대와 비교해서 좋아 보이게 만든다.