智能体AI测试：英伟达Vera CPU比英特尔Sapphire Rapids快2.2倍

7月22日，云端AI推理平台DeepInfra发布了一篇博文，内容挺有意思——他们在生产环境下对智能体AI负载做了测试，结果显示英伟达的Vera CPU速度是其他CPU的2倍多。具体来说，Vera的runc延迟只有29ms，而英特尔的Sapphire Rapids是64ms，这意味着Vera快了整整2.2倍。

其实英伟达之前自己就说过，跟AMD的Turin 9755处理器比，Vera在智能体AI负载上的性能提升了80%。这次DeepInfra的测试等于从另一个角度印证了Vera的实力。

测试环境很统一：每次运行都用20个物理核、每核1线程、单NUMA节点，并且启用了CPU confinement，超出核预算的运行会被丢弃。这样保证了对比的公平性。附上相关截图如下：

图源：deepinfra