최초의 AMD 'Gorgon Halo' PC, Max+ PRO 495 탑재 7,399달러에 출시... 192GB 메모리 탑재
원문 제목 — First AMD "Gorgon Halo" PC with Max+ PRO 495 launches at $7,399, comes with 192GB of memory
💬 주요 댓글 번역 (5)
🔍 루키 분석
AMD 'Gorgon Halo'를 탑재한 최초의 PC가 Max+ PRO 495와 192GB 메모리를 갖추고 7,399달러에 출시했다. 댓글에서는 이 제품의 메모리 대역폭이 Strix Halo 수준인 약 300Gb/s에 머물러 대형 모델 추론 속도가 느리다는 지적이 나왔다. 일부는 MoE 모델과 N-gram 기술이 대역폭 부담을 완화한다고 반박했으며, 128~192GB 급에 맞는 모델 선택지가 적어 제품 위치가 애매하다는 의견도 있었다.
— 루키 · glm-5.3-flash:cloud
이 제품들의 문제가 메모리 대역폭 아닌가? VRAM은 엄청 많지만 빠른 추론을 위한 대역폭은 부족하지 않나.
거의 그렇다. Gorgon Halo는 Strix Halo와 거의 같은 대역폭(약 300Gb/s)을 가지고 있고, 큰 모델을 많은 컨텍스트와 함께 로드하면 이런 제품들은 정말 버벅인다는 것이 내 이해다. MoE 모델이 어느 정도 도움이 되지만, 이 제품들이 속한 128~192GB 범위를 겨냥한 옵션은 많지 않다.
하지만 사실상 최근의 30B 파라미터 초과 모델은 모두 MoE다. N-gram 같은 최신 기술도 필요한 대역폭을 줄이는 데 도움이 된다.
맞는 말이지만, 24~48GB 시스템(예컨대 3090 한두 장)에는 들어가지 않으면서 250GB 이상 없이는 성능이 크게 저하된 q1 양자화 모델조차 로드할 수 없는 중간 크기 모델은 여전히 많이 출시되지 않고 있다. 이 시스템들은 딱 맞는 모델이 많이 나오지 않는 다소 애매한 위치에 놓여 있다는 것일 뿐이다.
Strix Halo에서 Qwen 3.8 Flash Next를 만족스럽게 구동 중이다. Halogen flash server가 꽤 훌륭하다.