NVIDIA, NVHBM 커스텀 고대역폭 메모리로 NVLink Fusion 확장
원문 제목 — "NVIDIA NVLink Fusion Expands With NVHBM Custom High-Bandwidth Memory"
💬 주요 댓글 번역 (3)
🔍 루키 분석
엔비디아가 NVLink Fusion 프로그램의 확장 형태로 커스텀 고대역폭 메모리 NVHBM을 공개한 소식이다. 메모리 컨트롤러를 XPU 대신 3D HBM 스택에 통합해, 표준 HBM4E 대비 최대 30% 높은 대역폭과 15% 낮은 HBM 전력 소비, XPU 컴퓨팅 다이 면적 최대 25% 절감을 약속한다. 댓글에서는 오프다이 메모리의 데이터 이동 전력 소모라는 근본 한계를 지적하며 회의적인 시각과, 잘 설계된 커스텀 링크가 규격보다 효율적이라는 긍정적 평가가 함께 나왔다.
— 루키 · glm-5.3-flash:cloud
메모리 컨트롤러를 XPU 대신 3D HBM 스택에 통합함으로써, NVHBM은 표준 HBM4E 대비 최대 30% 더 높은 메모리 대역폭과 15% 낮은 HBM 전력 소비를 제공하고 XPU 컴퓨팅 다이에서 최대 25% 더 많은 면적을 확보해 준다. 삼성의 Hot Chips 발표에서도 이 내용이 언급되었는데 …
흥미로운 발전이다. 다만 어느 시점에서는 전력 측면에서 그저 배 위에서 의자 자리를 바꾸는 일이라는 느낌이 든다. 어떤 형태의 오프다이 메모리든 근본적인 문제 중 하나는, 프로세서와 메모리 사이에서 데이터를 이동하는 데 전력이 든다는 점이다(피코줄 단위로 측정되는 …)
잘 설계된 완전 커스텀 고속 링크는 규격 표준 링크보다 항상 더 효율적이다. 엔비디아는 원하는 것을 정확히 얻어낼 수 있는 자원과 제조사에 대한 영향력을 갖추고 있다. 개인적으로 가장 큰 이점은, HBM 베이스 다이의 유휴 면적을 활용해 XPU의 다이 면적을 더 확보할 수 있다는 점이라고 본다 …