刚刚 PhyAgent OS 重磅升级,具身智能迎来新一代开源操作系统
智能比拼的下一阶段,已经从“模型”转向了“系统的可靠性与进化性”。
具身智能竞赛进入深水区,大家关注的重点,从“模型能不能想”变成了“系统能不能可靠执行,并且持续进化”。
业界前沿不断涌现新思路。不久前,NVIDIA 团队提出的 CaP-X 与 ASPIRE 项目,一个聚焦 Code-as-Policy 的系统评测与改进,另一个深入探索执行轨迹分析、失败诊断和程序自动修复。它们的方向都高度一致:从单纯的“训练端到端策略”,转向“让智能体生成可执行控制程序,在真实的执行反馈中发现问题,然后把修正后的能力沉淀为可复用的技能”。
与此同时,中国团队也展开了类似的探索。
01
一个真实多机器人协作的智能购物助手的诞生
近日,由中山大学 HCP 实验室、鹏城国家实验室具身智能研究所与 X-Era Lab(拓元智慧)联合发起的 PhyAgentOS 迎来重磅升级并全面开源,迅速获得了业界的广泛关注。
这是一个专为物理智能模型(如 VLA、WAM)、仿真环境和异构机器人打造的开源运行底座。它的目标是为这些模型和环境提供统一、可管理、可追溯的执行基础设施,让 AI 从“会思考”真正走向“可靠执行”。
为了直观展示 PhyAgentOS 的实际能力,我们先来看一个
真实物理场景下的多本体长程协作任务
在一个模拟零售商店的场景中,一位顾客推着黄色购物车进入店内。XEra 移动导购机器人立即上前迎接:
- 它主动打招呼、观察顾客穿着并自然对话:“您蓝色T恤精神十足,看来是想购物一场吧?”
- 当顾客询问饮料位置时,机器人清晰指引方向并带领顾客前往货架。
- 顾客挑选完商品后,机器人继续提供服务,引导至结账区域。

随后,
Piper 双臂机器人
- 准确拾取衣物、饮料、零食等物品并放置到桌上。
- 熟练折叠衣服、打开塑料袋,并将商品有序装袋。
- 最后由 XEra 移动机器人拿起装满商品的红色塑料袋,稳稳送至收银台。
整个过程通过
PhyAgentOS 的 Session 机制
这个 demo 充分体现了 PhyAgentOS 的核心价值:
- :支持多轮对话和动态意图理解。
自然人机交互
- :移动平台(XEra)负责导航与运输,双臂(Piper)负责精细操作,系统无缝调度。
异构多机器人协同
- :从对话引导 → 导航 → 物体操作 → 装袋 → 交付,全程可靠执行。
长时序复杂任务闭环
- :Session 记录全程状态,方便监控、调试和干预。
高透明度与可控性
- :贴近零售、服务等实际应用落地需求。
真实场景实用性
02
大模型,如何更好地进入物理世界
大模型虽然在任务规划和语义理解上表现出色,但当智能体从虚拟屏幕走进物理世界时,却常常“用不起来”。
机械臂看似执行了指令,杯子却没有被抓住;模型返回“成功”,真实世界却毫无变化;换一个新机器人或仿真环境,整条链路就得重新搭建;失败后,问题难以定位,经验无法有效积累。
单纯端到端策略进一步放大了这个问题。它将感知、规划和控制高度耦合,虽然在特定场景下表现亮眼,但泛化能力差、调试困难、可解释性低,且难以跨平台迁移和长期迭代。一旦部署环境发生变化,往往需要从头训练,成本极高。
以大型模型为核心大脑、通过智能体(Agent)进行分层控制的方式,正成为突破这一瓶颈的最有效路径。
它将“思考”和“执行”清晰解耦,让大模型专注于高级规划和推理,而由底层系统负责可靠执行、状态监控、错误诊断和经验积累。这种架构不仅显著提升了系统的可调试性、可复用性和长期进化能力,更为跨平台部署和多机器人协作提供了基础。

PhyAgentOS 对应的技术报告信息如下:

03
PhyAgentOS 的关键:给机器人装上统一操作系统
通过上面的真实购物协作 Demo 可以看到,
不同形态的机器人(移动平台 + 双臂)如何在同一套系统下默契配合
它就像给各种机器人装上了一套
统一操作系统
PhyAgentOS 以 Session(会话)为核心,构建了一套完整的任务管理系统。它既把“思考”和“执行”有效分开,又让两者紧密配合,从根本上解决了传统机器人系统碎片化、难调试、难迁移的问题。
下面我们逐一拆解其关键设计:
▎Session 机制:任务全过程可管理、可追溯
传统机器人系统往往围绕驱动或单个动作来组织代码,长时序任务中状态管理、异常处理和资源释放极易散落在各个模块。
PhyAgentOS 将 Session(会话)设定为最小执行单元。一次 Session 不仅明确“要做什么”,还会完整记录:
- 任务目标交给哪个 Target。
- 采用哪一种 Skill Runtime。
- 策略服务和远程执行端位置。
- 执行时长上限、步数限制。
- 需要经过哪些 Adapter 与动作契约。
- 最终是成功、失败、超时,还是在启动前就被拒绝。
只有目标、技能、传感器、动作格式、适配器关系和安全条件全部满足,Session 才会真正启动。运行过程中,它还会持续监控心跳、超时、取消请求、策略服务状态以及 SafetyGuard。
▎Markdown 协议文件:系统状态全程透明可读
PhyAgentOS 没有把系统状态隐藏在难以查看的数据库中,而是采用一组结构化 Markdown 文件作为协议边界。
这五份核心文件就像一套任何人都能打开阅读的“工作台账”:
- ——设备名册,列出所有执行目标及其能力和位置。
TARGETS.md
- ——方法说明书,描述各种执行方式的输入输出。
SKILLRUNTIME.md
- ——任务工单,记录当前执行进度和结果。
SESSIONS.md
- ——现场地图,描述物体、场景关系和感知结果。
ENVIRONMENT.md
- ——经验记录本,沉淀预检、执行和验收中的问题与避免方法。
LESSONS.md
此外,EMBODIED.md 描述本体能力与限制,传感器配置、感知模型、动作契约和安全规则则通过 YAML 文件明确定义。
这种“状态显式化”设计带来了巨大优势:研究者可以逐步讲解,工程师可以快速排障,Agent 可以直接读取,失败后还能系统性复盘。
▎Adapter 适配机制:实现跨平台兼容与安全保障
平台间最难迁移的往往是数据格式。一台机器人可能输出两路相机 + 7维关节状态,另一套仿真环境可能是三路图像 + 23维状态。
PhyAgentOS 使用三层明确适配关系:
- :将不同目标的原始数据转换为 Runtime 可理解的形式。
TargetAdapter
- :把 Runtime Observation 转换为策略模型所需输入,并将模型输出转回。
PolicyAdapter
- :完成动作转换与约束处理。
ActionBridge
执行前系统会进行严格的兼容性检查(Preflight),如果不匹配就明确拒绝,避免出现隐形问题。
安全同样贯彻整条链路:认知侧 Critic 检查任务意图,Runtime Preflight 检查执行契约,Target 侧 SafetyGuard 约束工作空间与速度,Operator Override 保留人工干预权。
▎Session Verifier:把实验评测变成标准化流水线
Runtime 记录执行事实,但最终判断权交给 Agent 侧的 SessionVerifier。
系统会自动打包任务前后图像、环境快照等证据,由 Agent 进行最终判断,给出「成功」「失败」或「需要重新规划」的结论。
失败也能形成可检查的证据链,支持长期记忆和持续自进化。
▎Benchmarking:标准化实验评测流水线
PhyAgentOS 的 Benchmarking Skill 复用标准 Runtime,实现从任务生成、环境初始化、策略执行、结果记录到失败分析、Agent Retry 的完整闭环。
在 LIBERO、CALVIN、RoboCasa365 等基准测试中,系统显著提升了策略的最终完成率,同时保留 first attempt(原始能力)和 final outcome(系统干预后能力)的区分,让实验数据更加科学可信。
▎评估与进化 Showcase:让实验流水线与能力进化真实可见
一个机器人策略是否真正进步,不能只看一次 Demo 是否成功。
真正重要的是看它在哪些任务上失败了?失败后系统能否看清原因、留下可查证据,并尝试把任务继续完成?
PhyAgentOS 将这一过程纳入标准的 Session 流水线。每一次评估都是从任务生成、环境初始化、策略执行、结果记录,到失败分析、Agent Retry 和最终汇总的全链路统一管理。
在 LIBERO 基准测试中,我们使用 Pi0.5、X-VLA 等策略进行自动化评估。结果显示,在四个 suite 共 2000 个 episode 中:
Pi0.5 的首次执行成功率达 97.0%,经 PhyAgentOS Agent Retry 后,最终成功率提升至
97.8%
X-VLA 的首次执行成功率达 97.3%,最终提升至
98.6%

图:PI0.5、X-VLA 等策略在 LIBERO 基准上的基础自动评估与 PhyAgentOS 介入性能对比。
在 CALVIN 长时序操作基准上,系统对连续任务的恢复能力得到进一步验证:
- PI0 五步完整成功率从 38.9% 提升至。
45.6%
- PI0.5 从 85.3% 提升至。
89.4%
- X-VLA 从 74.3% 提升至。
75.7%

图:PI0、P0.5、X-VLA 策略在 CALVIN 基准上的基础自动评估与 PhyAgentOS 介入性能对比。
在 RoboCasa365 家庭场景基准中,恢复效果同样显著:
- PI0.5 总体成功率从 17.6% 提升至。
26.8%
- RLDX-1 从 35.6% 提升至。
42.8%
- WorldDreamer 从 34.0% 提升至。
42.4%

图:PI0.5、RLDX-1、WorldDreamer 策略在 RoboCasa365 基准上的基础自动评估与 PhyAgentOS 介入性能对比。
PhyAgentOS 并不修改策略模型本身,而是通过统一的 Session Runtime,将任务调度、执行、验收、失败分析和重试组织成完整闭环。它严格区分 First Attempt(策略原始能力)和 Final Outcome(系统介入后的最终能力),让 Benchmark 成为一条可记录、可复盘、可进化的评测流水线。
04
真实部署验证:已在多种平台成功落地
▎Unitree Go2 快速接入
无需编写底层驱动代码,只需安装环境填入用户配置,十几分钟,即可完成 Go2 机器狗从开箱到接入。

▎自动化仿真评测
通过与 Agent 交互,自动选择、启动评估流程并整理生成评估结果。

▎游戏环境中的 Agent 能力演示
Minecraft
PhyAgentOS 在 Minecraft 中通过 Session 协议完成从自然语言指令到游戏内执行的完整链路。

星露谷物语
基于积累经验与自主学习的知识完成家园区域的石头与杂草清理。

在 StarDojo Lite-100 多任务 benchmark 中,PhyAgentOS 在 DeepSeek v4 Flash 上取得总分
22.0%
分项来看,PhyAgentOS 在 Crafting 上达到
50.0%
16.7%
Farming 与 Exploration 分别为 28.6% 与 17.9%,仅次于参数量更大的 SPIKE。这一结果说明:通过 Memory 接口将跨 episode 的种植周期、工具配方和 NPC 交互历史写入结构化记忆,Agent 能够将失败修复后的策略沉淀为可复用 Skill,实现持续自进化。

图:在 StarDojo Lite-100 上,PhyAgentOS 与 SPIKE的各分类结果对比,SPIKE 的数值来自该论文报告的平均值。结果表明我们的PhyAgentOS仅依赖DeepSeek v4 flash即可超过GPT5.4的性能。
饥荒
在《饥荒》中,接入 PhyAgentOS 后,DeepSeek v4 Flash 的平均存活天数从 1.02 天提升至
2.10 天
30%


图:DeepSeek v4 Flash 在《饥荒》秋季第 0 天、白天阶段(10 轮 episode)上的表现。PhyAgentOS 使 Agent 存活时间翻倍,并突破了第 3 天的生存阈值。
这些游戏验证了,物理智能体的瓶颈往往不在“模型能不能想出正确动作”,而在于“系统能否确保动作在正确时机被可靠执行,并将反馈转化为长期经验”。PhyAgentOS 正在把游戏中验证的长期记忆与自进化能力,逐步迁移到真实机器人平台。
05
适用场景与上手指南
无论您是研究者、开发者还是教育工作者,PhyAgentOS 都能为您提供有力支持。以下是它的适用场景与简单上手指南。
- :把时间留给真正有价值的创新,新策略、新感知方法或新环境都能快速接入统一协议,实验结果结构化、易复现。
研究者
- :完整可视化的执行流程,让“智能体闭环”从抽象概念变得具体可教。
高校教师和学生
- :策略不再被单一平台绑定,可在多种 Target 上统一评测。
模型团队
- :提供清晰的接入路径和安全边界,已在多种主流平台完成验证,加速真实部署。
机器人与自动化团队

系统提供不依赖真实硬件的 Dummy Runtime,也支持快速连接游戏、仿真和真实机器人。
从第一条 Session 开始,你可以逐步扩展到复杂评测和多本体协同。
06
物理 AI 觉醒时刻才刚刚开始
从 VLA 到代码即策略,从世界模型到多模态推理,我们正在快速获得越来越聪明的“大脑”。但要让这些大脑真正进入现实世界,仅有模型还远远不够。
物理智能体还需要一套能够管理任务、检查契约、监督执行、接收反馈、验收结果并持续积累经验的系统基础设施。
PhyAgentOS 正是对这个问题的回答。
当 AI 开始触碰真实世界,我们不仅要让它会想、会做,更要让每一次行动都有清晰边界、每一次结果都有可查证据、每一次失败都能成为下一次进步的坚实起点。
物理 AI 的“觉醒时刻”,或许才刚刚开始。