首页 > 教程攻略 > ai资讯 >英伟达开始搞机器人自己研究机器人那套了……

英伟达开始搞机器人自己研究机器人那套了……

来源:互联网 时间:2026-06-22 18:20:20

好好好,英伟达又有新花样了——这次他们盯上了“自动做实验”这件事。

刚刚,英伟达、CMU和Berkeley联合搞了一个叫

ENPIRE

的具身智能框架。说白了,就是让AI agent自己来当机器人研究员:8个Coding Agent,每个人控制一台双臂机器人,从读论文、改算法、训练策略、部署实验,到分析结果、总结经验,一条龙全包。研究员只需要第二天早上过来看报告就行。

具体画风是这样的:实验室先搭好场景,剩下的就全交给Codex和机器人自己折腾。效果嘛,还真不赖。在最具代表性的Pin Insertion任务中,仅用了3小时,机器人把针插进4毫米孔洞的成功率,直接从0拉到了99%。

全程没有任何人类参与。项目负责人之一的Jim Fan发推说:“GEAR实验室的一部分现在已经在彻夜自我改进了。我们只需要早上来读报告。”

当然,也有网友一针见血地总结:“高情商:彻夜自我改进;低情商:没日没夜地烧token。”

具身智能研究的Harness

先澄清一下,ENPIRE并不是让Agent直接写控制代码来操纵机器人。它更像一个机器人研究员,需要真实世界里重置实验、检索文献、提出方案、验证结果,再优化下一轮迭代。

和以往那些“代码即策略”的方法不同,ENPIRE的最终产物不是一段控制脚本,而是真正能部署到机器人上的Policy。

给现实环境搭建自动化框架,这件事难就难在:现实世界和代码世界是两码事。

在代码世界里,写错了大不了删掉重来,实验跑崩了重启就行。但机器人研究不一样——实验失败了,物体会歪掉,场景会乱掉,机器人甚至可能把东西碰飞。如果每轮实验都要靠研究员手动复位、记录结果、整理数据,Agent根本不可能24小时连续做研究。

所以ENPIRE做的,本质上就是给AI研究员搭建了一套自动化实验台。论文里把它称为

Harness Framework

——可以理解为,它给Coding Agent配齐了一整套做物理实验所需的基础设施。

这套基础设施由四个模块组成,正好对应ENPIRE这个名字:

  • EN(Environment)环境模块

    :负责搭建实验环境,包括安全边界、自动复位和自动评分。
  • PI(Policy Improvement)策略改进

    :Agent根据任务目标提出新方案,行为克隆、强化学习、启发式规则,甚至混搭,都可以尝试。
  • R(Rollout)部署测试

    :把新策略部署到真实机器人上执行,记录轨迹、视频和传感器信号。
  • E(Evolution)进化

    :多个Agent协作的核心。8个Agent各占一台机器人,通过Git共享代码,互相借鉴有效方案,淘汰失败路线。

四个模块串起来,就形成了一个完整闭环:提出想法→训练策略→真机测试→自动评分→总结经验→再提出新想法。整个过程不需要人工值守,Agent自己负责做实验,也自己负责从实验里学习。

而这其中最关键的一环,其实是Environment模块。因为它解决的是具身智能研究里最令人头疼的问题:

怎么让实验自动跑起来。

在仿真环境里,复位往往只需要一句 env.reset()。但现实世界没有 env.reset()

一次实验失败后,机器人必须先恢复场景的初始状态,下一轮实验才能开始。以GPU插拔任务为例,机器人需要先把GPU从主板上拔出来,再移动到指定位置释放,然后退回初始状态——整个过程涉及复杂的力控操作,稍有不慎就可能损坏GPU针脚。

自动评分同样不简单。比如在扎带穿扎任务中,Agent需要判断“扎带尾巴到底有没有穿过扎带头?”为了解决这个问题,它甚至自己设计了一套视觉检测方案:顶部和侧面两个摄像头同时观察目标区域,各自进行图像分割;只有当两个视角都确认扎带尾端穿过扎带头,系统才判定实验成功。整个检测延迟被压缩到150毫秒以内,已经接近人类视觉反应速度。

这些自动复位、自动评分、安全控制接口一旦调通,就会被固化为标准API。后续Agent做研究时,不再需要关心底层实验流程。由此,真实世界终于第一次变成了一个可以被反复调用、持续优化的研究环境。

好的Agent不比研究员差

当然,光有实验平台还不够。真正有意思的问题是:当你把机器人、GPU和Token都准备好之后,Agent到底会不会做研究?

ENPIRE给出的答案是:会,而且还真像那么回事。

论文在四个高难度灵巧操作任务上进行了验证:Push-T(推动T形积木到目标位置)、Pin Insertion(把针插进4毫米孔洞)、GPU Insertion(把GPU插进主板插槽)以及Zip-tie(扎带穿扎与剪切)。最终四个任务全部达到了99%的成功率。

但比结果更有意思的,是Agent达到这个结果的

过程

。最典型的例子是Pin Insertion任务,论文直接公开了Agent的Idea Tree——它完整的研究思路演化过程。从中可以清楚看到一条非常熟悉的研究路径:先试行为克隆,效果一般;加入在线强化学习数据,性能开始提升;再增加正则化项,成功率出现明显跃升;随后调整Batch Size,补偿控制器延迟,进一步提升稳定性。

整个过程中,Agent就跟人类研究员一样,一步一步往上试,一路把成功率从接近零推到接近100%。没有人告诉它应该加什么模块,也没有人规定实验顺序。所有方案都来自它自己提出的假设,再通过真实实验验证。如果把这些记录隐藏起来,只看研究过程,很难说这和一个机器人博士生在实验室里做研究有什么本质区别。

更有意思的是,Agent甚至会根据任务特点主动改变研究路线。在Zip-tie任务中,它很快发现端到端训练效果不好——因为这个任务实在太长了:找到剪刀→抓起剪刀→找到扎带→对准位置→完成剪切。整个操作链跨越多个阶段,单纯依赖端到端策略很难学好。于是Agent自己换了一条路线:先利用VLA模型(Vision-Language-Action)完成粗定位,再调用工具API执行精细操作。某种程度上,它甚至自己做了一次系统架构设计。

如果要找一个最直接的参照物,那就是Karpathy前段时间提出的“Autoresearch”。两者本质上都在做同一件事:让AI自动提出想法、运行实验、比较结果,再根据结果继续迭代。区别在于,Autoresearch发生在数字世界,代码写崩了可以重来,实验跑错了可以重启,算力几乎是唯一成本。而ENPIRE第一次把这套研究循环搬进了物理世界——机器人不是代码,你没法对一台撞坏的机械臂执行Git Revert。真实世界里,摩擦力在变化,物体位置在变化,光照在变化,传感器也会产生噪声。

ENPIRE的核心价值,

就是通过自动复位、自动评分和安全控制接口,把原本混乱的物理世界包装成Agent能够反复调用的实验环境。

对于Agent来说,真实世界第一次拥有了类似软件开发环境的可迭代性。

另一个有意思的发现,是所谓的“物理Scaling”。过去大模型Scaling的是参数、数据和算力,ENPIRE开始Scaling实验数量。论文里,8个Agent分别占用8台机器人,同时探索不同路线。结果Pin Insertion任务达到目标成功率的时间,从单机器人模式下的1.5小时缩短到40分钟。

换句话说,如果过去的大模型是在扩展GPU集群,那么ENPIRE扩展的则是机器人舰队。

当然,这种Scaling并不便宜。随着Agent数量增加,每个Agent都需要阅读其他Agent的代码、理解别人的发现、总结经验并同步知识。Token消耗增长得比机器人数量更快。论文甚至专门提出两个指标来衡量这种代价:

Mean Robot Utilization

(机器人有多少时间真正用于实验)和

Mean Token Utilization

(系统每分钟究竟烧掉多少Token)。

看到这里,大概也能理解为什么Jim Fan会这么兴奋——因为他们发现,研究本身似乎也开始具备了可扩展性。甚至连经验传承都出现了:论文里有个很有意思的实验,Agent在Pin Insertion任务中积累的经验被整理成一份文字总结,然后直接塞进GPU Insertion任务的Prompt里。结果后续研究效率明显提升。注意,这里迁移的既不是模型权重,也不是训练数据,而是一份研究笔记——和人类实验室传帮带时做的事情,几乎一模一样。

大平行的最后一块拼图

今年5月,Jim Fan在红杉资本AI Ascent大会上提出了

“大平行”(The Great Parallel)

框架:机器人领域正在加速重走大语言模型走过的路。

对照语言模型经历的四个阶段——预训练、对齐微调、强化学习推理、自主研究——机器人也在走同样的四步,只不过每一步的介质从文本变成了物理世界。前三步英伟达已经有了对应的布局:预训练阶段有EgoScale(用两万小时人类第一视角视频训练运动先验)和DreamZero(一种全新的世界动作模型,用视频世界模型预测下一物理状态,替代语言模型预测下一token);对齐阶段用少量传感化人类数据做动作微调;强化学习阶段有Dream Dojo(一个纯神经仿真器,不用物理引擎,直接用视频世界模型生成模拟环境,让机器人在“梦境”里做RL)。

但第四步——自主研究——在物理世界一直没有可执行的实现。ENPIRE,就是这一步。

一作

肖文力

(Wenli Xiao)在推特上写道:“Autoresearch终于离开了沙盒,进入了具身世界。”

肖文力是CMU机器人系博士生,导师是

石冠亚

(Guanya Shi),此前在英伟达GEAR实验室实习了两年。这篇论文有四位共同一作。

肖文力、

谢佳

(Jia Xie)、

Tonghe Zhang

Haotian Lin

,全部来自CMU,三位共同指导教师分别是范麟熙(Jim Fan)、朱玉可(Yuke Zhu)(均来自英伟达)和石冠亚(CMU)。

Jim Fan在推特上对ENPIRE的描述,大概是整篇论文最有画面感的概括:

我们给8个Codex agent一个机器人舰队、一批GPU和充足的token预算。然后人类退场。机器人舰队开始活过来:它们学会寻找视觉线索,重置场景,练习新技能,修改控制栈,在线读论文,辩论,反思,卡壳,再直接在硬件上重试。我们所做的一切,就是给Codex一个通往原子世界的API。剩下的是涌现。

ENPIRE将全部开源。理论上,每个人都可以搭建自己的“自运行机器人实验室”。前提是——你得买得起那8台机器人、英伟达的GPU,以及跑coding agent的token。

参考链接

[1]https://x.com/_wenlixiao/status/2066913196641071464

[2]https://research.nvidia.com/labs/gear/enpire/#fleet-scaling