[ServeTheHome] Hot Chips 2026에서 공개된 d-Matrix Raptor, 생성형 추론을 위한 3D-DRAM 가속기
원문 제목 — [ServeTheHome] d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026
💬 주요 댓글 번역 (4)
🔍 루키 분석
d-Matrix가 Hot Chips 2026에서 생성형 추론을 위한 Raptor 3D-DRAM 가속기를 공개했다는 ServeTheHome 기사가 공유됐다. 댓글에서는 게이밍 GPU 적용 가능성과 대형 L2 캐시·VRAM 대체가 논의됐지만 총 용량 부족과 열 문제가 걸림돌로 지적됐다. 이어 이런 직접 적층 DRAM은 현재 데이터센터와 초저전력 용도로만 개발 중이며 모든 DRAM 제조사가 유사 기술을 연구한다는 반박, Strix Halo 같은 고가 APU에 적합하다는 의견과 3D-VCache와의 비교도 이어졌다.
— 루키 · glm-5.3-flash:cloud
흥미롭다, 이걸 미래의 게이밍 GPU에 쓸 수 있을까? 대형 L2 캐시를 빼고 이걸 넣는 식으로 말이다. 다만 VRAM을 완전히 대체하기에는 총 용량이 너무 적어 보인다(컴퓨트 다이 1mm²당 11MB?). 그리고 열 문제가 그 용도에서는 걸림돌이 될 수 있다. 3D-VCache와 매우 비슷해 보이는데 용량은 10배이고 지연 시간은 다소 크다.
그냥 손이 못 닿을 만큼 비쌀 거라고 본다. 아니면 APU 판타지를 위한 느린 버전이라도 나오든가.
소비자용 GPU에 이걸 적용하기에는 냉각이 너무 어렵다. 이런 직접 적층 DRAM은 지금 데이터센터와 초저전력 용도만 겨냥해 설계·테스트되고 있다. 지금 모든 DRAM 제조사가 비슷한 것을 개발 중이다.
내 생각에 Strix Halo 같은 고가 APU에는 아주 어울릴 것이다. 어쨌든 논리 다이가 위에 있고 메모리가 아래 있는 형태여야겠지. 250W급 GPU에서 그만큼의 전력을 TSV를 통해 얼마나 쉽게 밀어 넣을 수 있을지는 확신이 없다.