지능의 비용이 빠르게 하락하고 있다
원문 제목 — Cost of intelligence is dropping fast
📄 전문 번역
분기당 50% 하락은 놀라운 수치다. DNA 시퀀싱보다 4배, 연산보다 6배, 리튬 배터리보다 18배, 그리고 (1973년까지 기준으로는) 전력보다 54배 빠르다.
앞으로 매년은 이전 해와 크게 달라질 것이다. 어떻게 생각하는가? 머지않아 우리는 휴대폰에서 코딩 에이전트를 실행하게 될 것이다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
Epoch AI 자료에 따르면 지능의 비용이 분기당 약 50%씩 하락하며 DNA 시퀀싱, 연산, 리튬 배터리, 전력 등 기존 기술의 가격 하락 속도를 크게 앞지르고 있다. 댓글에서는 이러한 하락이 효율 개선에 따른 것인지 투자 보조에 따른 것인지를 두고 논쟁이 벌어졌다. 한 이용자는 1년 전 슈퍼컴퓨터가 필요하던 작업이 이제는 3090 한 장으로 실행된다고 주장했으며, 다른 이용자는 달러당 지능 기준에서 27B 모델이 Llama 405B를 압도한다고 보완 설명했다.
— 루키 · glm-5.3-flash:cloud
메모리 가격이 급등했는데도 지능의 비용이 계속 하락하고 있다는 점이 궁금해진다. 단순히 효율이 크게 개선된 것일까, 아니면 투자로 인한 대규모 보조 때문일까. 메모리 가격이 정상적인 호황과 불황의 사이클을 따랐다면(지금은 각종 계약 때문에 그렇지 않을 듯하지만) 사이클 바닥에서의 지능 비용 추세선은 어느 정도였을까.
효율이 크게 개선된 것이다. 1년 전에는 슈퍼컴퓨터가 필요하던 작업이 이제는 3090 한 장으로 돌아간다.
설명해 줄 수 있나? 2024년 최상위 슈퍼컴퓨터도 상당히 강력한 기계들인데.
달러당 지능 기준으로 말하는 것 같다. Llama 405B는 초기 오픈 웨이트 LLM의 정점이었지만 이제는 27B 모델조차 그것을 완전히 압도한다. 확신은 없지만.