당사의 Agentic Inference Profit Calculator 추정에 따르면 Vera Rubin NVL72는 MiniMax M3 428B 같은 프론티어보다 약간 낮은 수준의 오픈소스 모델만으로도 연간 390억 달러의 수익을 창출할 수 있다. (2/3)

P90 400 tok/s 초과 구간에서 나타나는 10.2배 격차는 에이전틱 디코딩에서 메모리 월(Memory Wall)의 냉혹한 현실을 드러낸다. 핵심은 순수 FP4 TFLOPS가 아니라, 낮은 배치 크기에서 MFU 붕괴를 막는 HBM4 2048비트 와이드 버스와 NVLink 6의 대역폭 대 연산 비율이다. 에이전트 스트림당 배치 크기가 1일 때 Rubin의 224G NVLink 백플레인은 멀티노드 텐서 병렬 통신을 지연 비용이 아닌 순수한 토큰 생산으로 전환한다

다만 10.2배는 GB300의 곡선이 한계에 도달하는 지점에서 나온 수치다. 수익 차트에 사용된 120 tok/s에서는 2배 정도에 가까운 것 아닌가?

현재 이 수치는 InferenceX Preview 제출 결과에 불과하며, 곧 공개될 vLLM Rubin NVL72의 정식 공개 InferenceX 제출이 기대된다. SGLang의 Rubin NVL72 제출도 기대된다. NVIDIA, vLLM, Inferact, 현재 NVIDIA에 합류한 전 CentML 인력인 Nick Comly, Xin Li, Alex Sette, Kedar Potdar와 팀의 훌륭한 작업에 감사를 전한다.