NVIDIA Vera Rubin NVL72 debuts on MLPerf Inference v6.1 with up to 3.7x throughput
Vera Rubin NVL72 hits up to 3.7x on Qwen3-VL and 2.5x on DeepSeek-R1 vs GB300; MLPerf v6.1 adds end-to-end RAG and edge agent inference tests.
MLCommons 当地时间 9 月 16 日公布 MLPerf Inference v6.1 结果,NVIDIA Vera Rubin NVL72 首次以预览类别提交成绩。
据 NVIDIA 公布的对比,该系统在 Qwen3-VL 任务中的吞吐量最高达到 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 任务中最高达到 2.5 倍,具体表现取决于测试场景与软件配置。本轮评测还新增端到端检索增强生成(RAG)和边缘智能体推理测试,覆盖多模型协作、检索问答及多轮编码等工作流程,共有 30 家机构参与提交。
Vera Rubin 是 NVIDIA 面向智能体 AI(Agentic AI)与推理时代打造的下一代机架级超级计算机与 AI 平台,Grace Blackwell 上一代 GPU 出货量 9 月环比增长 27%;黄仁勋在英国 AI 峰会上确认 GPT-6 Astra 训练使用超过 10 万颗 Grace Blackwell NVLink72 芯片。
Vera Rubin 的预览成绩与 Crusoe 的融资同日发布,标志着「推理时代」基础设施投资周期仍在加速:AI 算力不再只是「买更多 GPU」,而是走向 Compute → Memory → Networking → Data Centers → Power → Cooling → Infrastructure Software → Inference 的全栈系统级竞争。