让机器人动作更流畅!广和通实现VLA端侧推理2.6倍加速
广和通AI研究院最近在具身智能领域搞了个大动作——基于自研FiboVLA框架与端侧推理优化技术,团队在多个主流VLA模型上实现了平均2.6倍的推理加速,并且成功将GR00T N1.5部署到了边缘侧高算力主控平台。相关成果已经在LIBERO仿真基准数据集和桌面双臂真机环境中完成验证,等于给具身智能模型的机器人端侧高效运行铺好了路。

参数规模激增,机器人在端侧的实时推理成瓶颈
VLA——视觉-语言-动作模型,是具身智能的关键方向。它把视觉输入、语言指令和动作生成串在一起,让机器人可以根据环境与任务指令实时生成行动。听着很美好,但问题也随之而来:VLA能力越强,模型参数规模和推理成本就越高。对于机器人来说,推理速度直接决定了动作响应是否及时、任务衔接是否顺畅、整体运行是否流畅。
而且机器人本身还受限于算力、功耗、散热和系统资源。想让复杂的VLA模型在端侧高算力主控上稳定、高效地跑起来,这已经成为具身智能落地必须跨过的一道坎。
FiboVLA:压缩视觉Token,优化推理链路
那怎么解决?广和通AI研究院的做法是自研FiboVLA压缩框架,从模型语义层下手,对Token进行精细化优化。在VLA推理过程中,视觉和语言信息里其实藏着大量冗余表征。FiboVLA通过筛选和压缩视觉Token,剔除低价值信息,只保留那些与任务理解、环境判断和动作生成强相关的关键内容。
这么一来,推理过程中的无效计算被大大减少,同时模型的决策精度、跨模态理解能力和动作生成能力基本不受影响——计算负载却大幅降下来了。配合推理链路调度和端侧推理引擎优化,整体效率进一步提升。关键是,这个框架不依赖特定模型架构,已经在多个主流前沿VLA模型上验证有效,推理吞吐提升2.6倍,端到端时延也被压得很紧凑。
打通“大模型+小终端”最后一公里
这次突破的核心价值,说白了就是让原本对算力要求很高的VLA大模型,终于能稳稳当当进入机器人端侧系统运行。基于FiboVLA框架和端侧推理优化技术,广和通AI研究院已经把GR00T N1.5部署到了边缘侧高算力主控平台,并且完成了运行验证。
在LIBERO仿真基准数据集中,推理加速后的任务效果没有打折扣;在真实物理环境中,桌面双臂机器人场景下GR00T N1.5的真机运行验证也顺利通过。这意味着,机器人现在可以在端侧更快地完成感知、决策与动作生成,形成低延迟、连续化的推理闭环——这不只是模型速度的提升,更是在真实机器人平台上完成了一次实打实的工程验证。
从推理加速,走向机器人“本能”
FiboVLA框架的成功落地,为广和通AI研究院在端侧AI与具身智能方向上积累了一套核心能力,包括模型压缩、推理引擎优化、机器人平台验证以及系统协同。面向具身智能加速发展的产业趋势,广和通正在把无线通信、边缘算力、AI工具链与Fibot平台能力整合起来,帮机器人和各类智能终端获得更高效、更稳定的本地智能。这为具身智能真正进入真实系统运行,打下了坚实的一步。