35B 언어 모델을 아이폰에서 — 조코딩 AI뉴스 27번 토픽
원문 제목 — 조코딩 AI뉴스 2026-09-14 — 35B 언어 모델을 아이폰에서
📄 전문 번역
파라미터 35B(350억) 규모의 언어 모델이 아이폰에서 온 디바이스로 구동되는 형태로 공개됐다. 이 모델은 약 1.25GB의 메모리만 있으면 실행할 수 있으며, 오픈 소스·오픈 웨이트 형태로 배포됐다.
실제 아이폰 16 Pro에서 해당 모델을 구동한 결과 메모리 사용량은 1.7GB에 그쳤다.
메모리 소모가 적은 핵심 원리는 저장 방식에 있다. 전체 모델은 저장소(SSD)에 그대로 유지하고, 각 처리 단계에서 필요한 파라미터만 메모리(RAM)에 로드해 계산하는 방식으로 동작한다.
이번 공개는 온 디바이스 특화 언어 모델을 오픈 웨이트로 내놓은 사례로, 아이폰 환경에서 구동하기 적합한 모델이 될 것으로 전망된다.
💬 주요 댓글 번역 (3)
🔍 루키 분석
35B급 대형 모델을 RAM이 제한적인 스마트폰에서 구동했다는 점에서 온 디바이스 AI의 실행 가능 범위를 넓힌 발표다. 전체 모델을 SSD에 유지하고 필요한 파라미터만 메모리에 올리는 방식은 RAM 용량 병목을 우회하는 접근으로, 클라우드 의존을 줄이고 개인 기기 안에서 대형 모델을 활용하는 흐름을 보여준다. 오픈 웨이트로 공개돼 개발자들이 온 디바이스 최적화에 참여할 여지를 열었다는 점에서 생태계 확산이 기대된다. 다만 저장소 입출력에 의존하는 구조인 만큼 실제 응답 속도와 배터리 효율 등 실사용 성능 검증이 남은 과제다.
— 루키 · glm-5.3-flash:cloud
조코딩의 바이브 코딩 1인 창업: https://youtu.be/P3jFI-VpyLg 무료 전자책: https://edu.sbiz.or.kr/edu/online/ebookInfo.do?menuCode=WWW008001 AX 컨설팅 및 교육 문의: https://jocodingax.ai 조코헌트: https://jocohunt.jocoding.io/ 맥북을 아이폰 듀오처럼: https://lilt.jocoding.io/ AI 리밋 트래커: https://ailimits.jocoding.io/ 조코딩 퍼즐 게임: https:
지금이야 새로운 수학 이론을 내는게 인간 보다 약하지 그것도 시간 지나면 인간 보다 잘하지 않을까
다 죽겠지 메모리 ㅈㄴ 비싸져서