Fastest, Largest, Strongest: NVIDIA Blackwell Sweeps MLPerf Training 6.0

6 月 16 日消息，

每一个突破性的AI模型，都是从训练这一步开始的。而支撑训练的底层基础设施，直接决定了团队迭代的速度、能驾驭的模型规模，以及训练任务能否稳定跑完。随着模型越来越庞大、越来越复杂、越来越“聪明”，训练基础设施面临的压力也在同步攀升。

在最新一轮MLPerf Training 6.0基准测试中——这可是业界公认、经过严格同行评审的AI训练性能标尺——NVIDIA Blackwell平台交出了一份相当亮眼的成绩单：

• 在所有基准项目中，训练时间均做到最短
• 最大规模训练：基于NVIDIA Blackwell NVL72系统，扩展到8,192块GPU
• 唯一一个在所有七个基准项目中都有提交结果的平台

NVIDIA将性能、规模和可靠性塞进同一个平台，背后是极致的协同设计工程。这套方案能让模型构建者更快地推出前沿模型、压低训练成本，也能更早地开始产生收益。

性能：每个基准项目上都是最快的

MLPerf Training 6.0新增了两项混合专家（MoE）预训练任务：DeepSeek-V3 671B和GPT-OSS-20B，这直接反映了MoE架构在AI圈子的核心地位。NVIDIA平台是唯一一个在所有基准上都提交了结果、并且拿到最快训练时间的。

这一轮，NVIDIA分别提交了基于GB200 NVL72和GB300 NVL72机架级系统的结果。在每个机架系统内部，第五代NVLink交换机把所有72块GPU用高带宽连成一个统一的计算和内存池——相当于把它们变成了一颗巨型GPU。大规模MoE训练面临的核心通信挑战（所有token要在GPU间路由到正确的专家子网络）与MoE推理如出一辙，而NVLink的带宽优势，恰恰让这种大规模通信变得又快又高效。

NVIDIA还展示了NVFP4训练方法——在严格满足精度要求的前提下，大幅提升大、小规模预训练以及微调任务的性能。NVIDIA一直在不同模型架构上推进低精度训练创新，最近更是用NVFP4预训练了拥有5500亿参数的NVIDIA Nemotron 3 Ultra模型。

：本轮测试中，同等规模下GB300 NVL72比GB200 NVL72快最多1.6倍。背后的推手正是Blackwell Ultra的关键能力：更密集的NVFP4计算、更大的内存容量、以及更高的功耗上限让GPU能持续跑出峰值性能。

规模：MLPerf训练中规模最大的Blackwell集群

为了支撑大规模分布式训练，NVIDIA提供了两套互补的横向扩展网络方案——Quantum InfiniBand和Spectrum-X以太网——让数据中心可以根据自身设施灵活搭建大规模集群。

在套件中最大的MoE模型DeepSeek-V3 671B上，NVIDIA用GB200 NVL72系统扩展到了8,192块GPU，这是MLPerf训练中迄今为止规模最大的Blackwell系统提交。另外，NVIDIA还在Llama 3.1 405B（套件中最大的稠密大语言模型之一）上以5,120块GPU的规模提交了GB200 NVL72的结果。

本轮结果也反映了NVIDIA与合作伙伴在系统架构、网络和软件层面的深度协同工程：

• 微软Azure用GB200 NVL72系统将Llama 3.1 405B训练扩展到8,192块GPU，仅用7.07分钟就达到了参考质量目标，拿下该项目最快训练时间。
• CoreWea ve用GB300 NVL72系统（搭配Spectrum-X以太网）在8,192 GPU规模下，以2.02分钟达到DeepSeek-V3 671B的质量目标，拿下该项目最快训练时间。

大规模可靠性：为生产环境而生

在真实生产训练环境中，一次训练可能持续数周甚至数月，涉及数十万块GPU。在这种规模下，有效训练吞吐量不仅取决于系统性能，更取决于系统能不能稳定、可复现地跑下去。MLPerf Training v6.0的结果已经说明了NVIDIA平台的性能表现。而在可靠性方面，NVIDIA从两个维度进行了工程化设计：

：NVIDIA GPU从源头就尽量减少故障。每块GPU在进入数据中心前，要经过30多道制造测试工序来提前揪出潜在缺陷。部署后，平台的可靠性、可用性与可服务性引擎会近乎全芯片地监控运行状态，并具备自愈能力——检测到故障时自动绕过，不停顿任务。在网络层面，Spectrum-X以太网能在毫秒级时间内绕过故障链路，保持网络健康，不中断作业。

：NVIDIA Resiliency Extension（NVRx）把故障发生后的时间损失降到最低。它覆盖故障检测、恢复和集群健康监控，能自动发现并管理表现不佳的节点，防止它们拖慢整个集群。当某个节点遇到中断时，系统不再重启整个任务，而是从最近的一个检查点（训练状态的快照）恢复，大幅减少等待时间。

基于NVIDIA构建的前沿AI

NVIDIA生态系统的合作伙伴也在本轮积极参与，来自19家组织的成果相当亮眼，包括ASUSTeK、微软Azure、Cisco、CoreWea ve、Dell Technologies、富士通、Giga Computing、Google Cloud、Hewlett Packard Enterprise、Inventec、Krai、Lambda、Nebius、Netweb Technologies India Ltd.、QCT、Scitix、Supermicro和TTA。这些合作伙伴中，很多都在NVIDIA基础设施上运行着最吃力的AI训练任务。

CoreWea ve将NVIDIA基础设施部署在Dell PowerRack系统（搭载Dell PowerEdge服务器）内，承载了多个关键训练任务。Cohere在其North智能体AI平台上，借助GB200 NVL72实现了训练速度3倍提升。Midjourney已经在Blackwell集群上训练了v8图像生成模型，目前正在CoreWea ve上大规模扩展Blackwell Ultra GPU集群，用于训练即将推出的图像和视频模型。

在Google Cloud上，Thinking Machines Lab在GB300 NVL72上获得了相比前代GPU 2倍的训练和推理速度，加速了前沿模型研究和强化学习工作流。

Nebius在其AI云上运行NVIDIA Blackwell和Blackwell Ultra基础设施，帮助Higgsfield将模型训练时间缩减30%，支撑的平台如今已服务2200万用户，每天产生超过600万件AI内容。

更多关于MLPerf Training 6.0结果及背后优化方案的技术细节，可以参阅相关技术博客。