QCOM CEO 크리스티아누 아몬, AI 기업들은 2028년까지 1000억 파라미터 모델을 구동할 수 있는 스마트폰을 원한다고 밝힌다
원문 제목 — QCOM CEO Cristiano Amon Says AI Companies Want Phones That Can Run 100B Parameter Models By 2028
💬 주요 댓글 번역 (5)
🔍 루키 분석
퀄컴 CEO 크리스티아누 아몬이 AI 기업들이 2028년까지 1000억 파라미터 규모 모델을 스마트폰에서 구동할 수 있는 기기를 원한다고 발언한 소식을 전한다. 댓글에서는 온디바이스 실행에 필요한 대용량 RAM과 초고속 저장장치가 휴대폰 시장에 부족하다는 지적과 함께, 활성화 파라미터가 적은 MoE와 HBM 유사 인터페이스를 갖춘 플래시인 HBF를 활용하면 가능하다는 의견이 나왔다. 일부는 iPhone 17 Pro의 NVMe 속도가 약 1GB/s에 그친다는 점을 들며 회의적인 반응을 보였다.
— 루키 · glm-5.3-flash:cloud
ㅋㅋ, 잘 되나 보자
활성화 파라미터 수가 매우 적은 MoE와 HBF를 결합하면 가능할 것이다
어마어마한 양의 RAM이나 초고속 SSD 저장장치가 필요한데, 둘 다 휴대폰 시장에는 기본적으로 없다. 정말 이걸 원한다면 1년 안에 DGX Spark 경쟁 제품을 내놓아서 가능하다는 것을 증명했을 것이다
그게 바로 그가 말한 내용이다. HBF는 HBM과 유사한 인터페이스를 갖춘 플래시다
당신이 생각하는 초고속이 어느 정도인가? iPhone 17 Pro 같은 기기의 NVMe는 약 1GB/s를 낸다