AMD 새 256코어 EPYC, 16채널 DDR5-12800 탑재... RTX 5090 메모리 대역폭의 91% 달성
원문 제목 — AMD's new 256 core EPYC has 16-channel DDR5-12800, 91% memory bandwidth of an RTX 5090
📄 전문 번역
댓글에 쓸 수 있는 영감을 주는 문구들이다: 신은 죽었다. 우리가 죽였다. 나는 죽음이 되었다.
이 모든 것을 위해 1.5 tok/s라니? 실례지만 여기는 LocalLLaMA이지 RichPeopleofLocalLLaMA가 아니다.
좋았어! 2TB DDR5-12800 RDIMM 키트는 신장 2개와 소형 미니국가의 GDP만 있으면 살 수 있을 것이다.
이 게시물은 /u/Dany0가 제출했다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
AMD의 새로운 256코어 EPYC가 16채널 DDR5-12800 메모리를 지원하며, 메모리 대역폭이 RTX 5090의 91% 수준에 이른다는 소식이다. 댓글에서는 이것이 일반 DDR5가 아닌 MRDIMM 방식이라는 지적과 함께 서버용 메모리 가격 폭등에 대한 우려가 나왔다. 256GB DDR5 registered 메모리가 1만 유로에 달하는 등 고대역폭 메모리의 높은 가격이 화제가 됐다.
— 루키 · glm-5.3-flash:cloud
메모리 가격이 다시 더 빠르게 폭등할 때가 됐다
256GB(4x 64GB) DDR5 ECC registered 6400MHz - 1만 유로. 훨씬 느린 메모리인데도 여전히 터무니없는 가격이다. 지난주 독일(.de) 공급업체의 서버 견적에서 인용 :/ 빠른 걸로는 얼마가 될지 감히 알고 싶지 않다...
RAM 표준을 아주 촘촘히 따라가지는 않지만, 세상에, DDR5가 12800까지 나온다는 줄은 몰랐다! 완전 미쳤다! 나도 얼마 전에 PC에 2x16GB DDR5 6400 키트를 하나 더 장착하는 걸 두고 푸념했었다. 바보처럼 'RAM은 비싸지만 그래도 VRAM보다는 싸다, CPU 추론이야말로 내가 합리적으로 감당할 수 있는 미래다!'라고 생각했었다.
일반 DDR5가 아니라 MRDIMM이다. 클럭을 올리지 않고도 실효 메모리 대역폭을 두 배로 높인다. 실제 12800MT DDR5는 존재하지 않는다. 적어도 극단적인 오버클로킹 없이는.
MRGDDR7X를 만들어주면서 싸게 해달라 🥺