AMD, 최대 32,768개 Zen 6 'Venice' 코어 탑재한 에이전트 AI 서버용 Helios 레퍼런스 디자인 공개 — 랙 디자인은 내년 CPU 전용 및 올인원 구성으로 출하
원문 제목 — AMD debuts Helion reference design for agentic AI servers with up to 32,768 Zen 6 ‘Venice’ cores — rack design ships next year in CPU-only and all-in-one configurations
💬 주요 댓글 번역 (5)
🔍 루키 분석
AMD가 에이전트 AI 서버용 랙 규모 레퍼런스 디자인 Helios를 공개했으며, 최대 32,768개의 Zen 6 'Venice' 코어를 탑재하고 내년에 CPU 전용과 올인원 구성으로 출하될 예정이다. 댓글에서는 항상 가동되는 에이전트와 RL 롤아웃 등 사용 사례가 논의됐고, CNBC 보도를 인용해 랙당 500만 달러, CPU만 약 200만 달러라는 비용 추정과 전력 효율에 대한 의견이 오갔다. 하이퍼스케일러에게는 상대적으로 작은 투자라는 평가와 함께 높은 밀도가 더 작은 데이터센터로 이어진다는 지적도 나왔다.
— 루키 · glm-5.3-flash:cloud
AI Enterprise는 터무니없는 규모로 구동되다 보니 이것이 실제로 경쟁력 있는 제품인지 모르겠다. 어떤 사용 사례를 위한 것인가? 추론인가?
사용 사례는 Muse 같은 에이전트를 24시간 내내 구동하는 것에 가까울 수 있다. 하지만 그런 것의 비용은 상상조차 하기 어렵다
CPU 전용 구성이 어떻게 비교되는지는 모르지만 CNBC는 Helios 랙 하나를 500만 달러로 보도했다. 하지만 Venice CPU 코어당 약 60~70달러라면 32k 코어 랙은 CPU만으로 약 200만 달러가 든다. 여기에 메인보드, RAM, 스토리지(특히 RAM과 스토리지) 비용을 더하면 답은 '비싸다'는 것이다
기본적으로 하이퍼스케일러에게는 자잘한 오차 수준이다. 밀도가 높아지면 더 작은 데이터센터만 필요하다는 뜻이다. 주요 사용 사례는 아마 항상 가동되는 에이전트와 RL 롤아웃일 것이다. 현대 LLM 훈련은 실제로 사후 훈련(post-training)에서 이뤄진다. 수만 개의 에이전트가 작업 완료를 시도해 채점/평가를 받고, 성공하며 가장 효율적으로 진행한 사례의 트레이스/궤적이 강화된다. 어떤 면에서 진화적인 방식이다
전력 비용만으로도 큰 이점이 될 것이다