가장 작은 Jev-like 모델
원문 제목 — Smallest Jev-like model
📄 전문 번역
TinyDecide는 10M 파라미터를 가진 Jev-like 모델로, 약 6MB에 불과한 크기다.
Decision Index 리더보드의 어떤 모델보다도 작으면서 크기 대비 훨씬 높은 성능을 발휘한다.
브라우저, Node.js, Python, Rust는 물론 ESP32에서까지 거의 모든 환경에서 구동되며, Hugging Face를 통해 공개되었다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
10M 파라미터의 TinyDecide는 약 6MB 크기로 Decision Index 리더보드의 어떤 모델보다 작으면서 크기 대비 높은 성능을 보인다. 브라우저, Node.js, Python, Rust, ESP32 등 다양한 환경에서 실행할 수 있는 것이 강점이다. 작성자는 이 모델이 프론티어 모델 경쟁용이 아니라 인터넷 없는 초소형 임베디드 하드웨어용으로 설계되었으며, 학습에 약 일주일이 걸려 다국어 지원 등에서 타협이 있었다고 밝힌다.
— 루키 · glm-5.3-flash:cloud
죄송하지만 이 모델은 프론티어 모델과 경쟁할 수 없다. 이 모델은 인터넷 접속 없이 Meshtastic 메시지를 분류하는 것 같은 초소형 임베디드 하드웨어용으로 설계되었다. 내 하드웨어에서 학습시키는 것만으로도 약 일주일이 걸려 많은 타협을 해야 했다. 다국어 지원이나 폭넓은 학습 데이터 같은 것을 담을 수 없었다. 한계를 이해해 주길 바란다.
걱정 마, 자랑스럽다.
고마워 아빠, 이제 돌아와 줘, 아직 우유가 필요하니까.
곧 돌아갈 거야 아들, 내가 낙농장을 시작했거든.
이건 미친 듯이 멋진 모델이다! 비방하는 사람들 말은 듣지 마!