Qualcomm CEO, AI 기업들이 2028년까지 1000억 파라미터 모델을 상시 구동하는 스마트폰을 원한다고 밝힌다
원문 제목 — Qualcomm CEO reveals AI companies want phones running 100-billion-parameter models continuously by 2028.
💬 주요 댓글 번역 (4)
🔍 루키 분석
Qualcomm CEO가 2028년까지 AI 기업들이 1000억 파라미터 규모 모델을 스마트폰에서 상시 구동하기를 원한다고 밝힌 발언이 커뮤니티에서 화제가 됐다. 댓글에서는 램 용량, 배터리 소모, 발열 등 물리적 실현 가능성에 대한 회의적 반응이 대부분을 이뤘다. 한 사용자는 Samsung s26에서 NPU와 GPU를 활용해 Qwen 3.5 2b 모델을 초당 27토큰으로 구동한 실측 결과를 공유하며 온디바이스 소형 모델 성능이 이미 상당한 수준임을 보여줬다.
— 루키 · glm-5.3-flash:cloud
좋네, 이러면 10k 정도 컨텍스트 윈도우를 돌릴 만한 램은 있겠다
그건 물리적으로 불가능하다. 노트북에서도 dense 27B 모델을 겨우 돌릴 수 있는 수준인데, 게다가 구동에 필요한 에너지도 어마어마하다. 농담인가, 아니면 멍청한 CEO 발언인가?
CEO의 과장 발언이긴 하지만 이건 차원이 다른 헛소리다. 스마트폰에서 소형 모델인 Gemma E4B를 돌려보면 배터리가 금방 닳고 뜨거워서 견딜 수 없게 될 것이다. 사람들이 hopium에 이끌려 이 글을 업보트하고 있다. 애초에 이런 글이 왜 여기 있는지 모르겠다. 하드웨어 루머보다도 신빙성이 떨어지는 터무니없는 추측이다.
Samsung s26으로 로컬 LLM을 만져봤는데(Qualcomm의 GenieX를 기반으로 앱을 만들었다). 이 폰에는 NPU가 통합되어 있고 실제로 몇 가지 테스트를 해봤다. 코드를 많이 최적화하지 않고도 로컬 Qwen 3.5 2b 모델을 GPU 사용 시 27 t/s, 하이브리드 19 t/s, NPU 전용 17 t/s로 구동할 수 있었다(NPU 전용 사용은 배터리와 발열 측면에서 놀랍도록 효율적이다). 이 폰은 램이 12GB뿐이다. GPU에서 Qwen 3.5 4b를 돌리면 16 t/s가 나온다. 이게 그냥 스마트폰이라는 걸 감안하면... 이 성능은 놀랍다.