近百台真机群体经验学习,机器人靠伙伴的经验持续变强

作者:彭堃方

近期,“GPT-6 Astra 的冲击”和“物理 AI 被打穿的可能”加剧了具身智能行业的焦虑。物理 AI 还没有完全生长出来,就遭到已经相对成熟的大语言模型侵入,具身智能的探索不敢稍歇。

往深处看,这是一场关于学习效率的竞争:通用模型正在将数字世界积累的能力带入机器人,具身智能企业又该怎样把真实交互变成自己的能力,以至于不被轻松碾过?

我们对此仍然乐观。物体如何滑落、插头为什么卡住、某次抓取为何偏离预期,都需要在具体的身体、接触和环境中接受检验。

真实部署不断产生经验,但经验不会自动变成学习成果。机器人成批增加之后,依赖专家持续示范和纠错的学习方式,也需要找到更容易扩展的路径。

针对这一挑战,清华大学、无问芯穹与智元联合提出群体经验学习(Collective Experience Learning,CEL)范式,并在 96 台真实机器人组成的集群中完成学习验证:在已有基础能力之上,让机器人自主执行任务,汇集成功与失败经验,持续优化共享策略,减少后续训练对人类动作示教的依赖。

在涉及家庭和工业等不同场景,覆盖插花、叠衣服、手机充电、凳子组装和手机包装五项任务的大规模真机实验中,两台未参与训练的机器人开展的 600 次测试成功率达 97.5%,五项任务的成功率均超过 6 名人类操作员的平均水平。

这项工作也回应了近期围绕递归自我改进(RSI)的一个核心期待:让智能系统更有效地利用自身实践,减少人类投入的负担。对于具身智能,尤其值得探索的学习资源,就藏在机器人每天执行的任务里。机器人逐渐具备双重价值:完成眼前的任务,也为整个群体贡献下一次进步所需的经验。

要让近百台真机的经验汇聚成可供学习的资源,首先要面对物理设备自身的不稳定性。

有的执行快,有的执行慢,有的需要复位,还有的会掉线、缺电或触发关节限位。机器人数越多,局部中断就越容易成为日常。整个集群若要等待每台机器人完成任务,正常工作的设备会被拖慢;每次故障都触发全局重启,规模增加带来的收益也会被停机消耗。

还有一道横在端与云之间的门槛。机器人在现场与物理世界交互,推理和训练算力部署在云端,观测、动作指令、执行轨迹与策略更新需要跨越网络往返。机器人眼前的操作要求及时响应,模型训练则需要汇集大量经验,网络带宽、通信延迟与设备状态的变化,都会影响两端能否配合起来。让这么多真机稳定地一起训练,需要同时处理设备故障和跨域协同。

团队为此构建了容错异步训练系统 FATS,将机器人执行、云端推理和策略优化衔接起来。各台机器人可以独立推进任务、提交经验,训练端利用已完成的数据更新策略,再用于后续执行。局部设备的停顿,不必变成全体机器人的等待,端侧交互与云侧训练也能够按照各自的节奏推进。

HotSwarm 首先处理集群中的故障与恢复。它将机器人的固定工位与运行进程身份区分开来,让故障进程在原位置恢复,并重建相关通信连接,其余机器人继续工作。对于重启前遗留的动作回复,系统会检查身份并拒绝过期消息,避免机器人恢复后执行已经不适用于当前状态的指令。

这样的设计说明,机器人学习基础设施需要深入到物理执行的具体约束。恢复通信连接后,系统还要确认返回的动作是否对应当前运行实例。训练端积累的模型和优化器状态,也需要与经常发生中断的机器人执行进程区别处理。把故障影响限制在局部,才有可能让整个群体在设备陆续退出、恢复的过程中继续学习。

论文中的系统实验提供了直观结果:96 台机器人累计完成 9,834 轮任务执行,其间 22 台机器人发生共计 30 起故障,故障造成的时间损失仅占总运行机时的 1.3%。局部问题持续发生,集群仍然可以贡献经验。

在保障集群故障修复之外,SwarmLink 解决经验如何流转的问题。机器人当前动作的推理请求具有时效要求,训练使用的完整轨迹体量更大,却可以逐步汇集。两者共用网络和计算资源,需要不同的调度方式。

SwarmLink 将推理请求汇入共享资源池,让云端计算资源服务于当前真正需要动作的机器人。某台设备暂停,其余设备仍可利用可用的推理能力。同时,系统在云端复用推理过程中已经收到的观测数据,逐步拼接完整轨迹,减少重复传输;在通信调度上优先保障实时交互,避免大批训练数据上传拖慢机器人眼前的操作。

这背后有很实际的成本与稳定性考量。增加机器人之后,算力、带宽与设备时间都需要得到有效利用。跨域通信既要承载训练数据,也要保障正在执行的任务。经验回流越顺畅,机器人执行、数据汇集和模型训练之间的空等就越少,更多投入才能转化为有效的学习时间。

无问芯穹在这一层已有持续积累。它与清华大学等共同研发的 RLinf,已经将数据采集、训练、评测与真机部署纳入统一开发流程;双方开源的 RLark 则进一步处理设备纳管和跨集群协同,并结合 RLinf,已在广东云端 GPU 集群与北京机器人现场之间跑通采集、训练和真机验证。这些工作所积累的,是把分散的设备、算力和执行程序组织起来的能力,也回应了群体学习对基础设施的要求。

至此,FATS 将分散的机器人、通信与云端训练衔接成持续运行的系统,让集群能够稳定地产生并汇集经验。

有了稳定运转的真机集群,才能进一步讨论 CEL 怎样利用这些经验。

先看机器人究竟在向谁学习。

在人类示教阶段,专家演示怎样抓取、移动、放置,机器人学习这些动作;进入纠错阶段,机器人尝试执行,专家在必要时接管,补充更合适的操作。这些方法帮助机器人获得基础能力,也让后续学习与专家持续投入紧密绑定。

CEL 把后续动作监督的来源,转向了机器人自己的执行经验。在论文的实验流程中,机器人先通过人类示教和干预获得初始策略,随后进入群体经验学习阶段,自主产生用于训练的动作数据。人仍然负责判定任务成功或失败、复位环境,但不再需要为这一阶段持续提供新的动作示范和纠错动作。

这种角色变化,关系到学习能否随着机器人数量一起扩展。判断任务是否完成,与全程盯住机械臂、及时接管并示范正确动作,对人的要求有明显差异。CEL 尝试减少的是后者带来的专家约束,为群体持续积累经验腾出空间。

不过,收集到经验只是开始。一段持续数分钟、包含数千个动作步骤的任务,最后得到“成功”或“失败”的标签,模型仍然不知道应该重点改进哪里。大量重复的成功动作,也可能掩盖少数反复出错的环节。团队为此提出 FERT 作为重要技术支撑,即失败引导的经验检索微调。

它利用失败轨迹结束前的一段场景与机器人状态,在群体共享的成功轨迹中检索相似片段,再提高这些成功动作在训练中的采样优先级。失败经验帮助确定学习重点,成功经验提供可以学习的动作。

可以把它理解为围绕薄弱环节展开的集体复习。某台机器人遇到困难,系统便从群体已有的成功记录中寻找相关经验,强化对这些操作的学习。一次执行的价值由此超出了单台机器人:它贡献的成功片段,可能帮助其他机器人改善相似情境下的表现。

这也赋予失败数据更具体的价值。真实任务中的一次失败,原本意味着返工、停顿与人工处理;经过合适的组织,它还可以成为分配学习资源的线索。已有经验是否足够丰富、系统能否找到相关片段,开始影响每一轮训练的收益。

在手机包装任务中,机器人需要依次放置说明书、充电线、充电器、手机壳和手机,并完成合盒,前序操作的偏差可能影响后续步骤。通过 96 台机器人进行群体经验学习后,策略在两台未参与训练数据采集的同型号机器人上接受 120 次测试,成功率由 79.2%提升至 98.3%,失败次数由 25 次降至 2 次,减少 92%。

对于产业,这种改进指向了从“已经会做”走向“能够可靠地做”的过程。任务失败往往会继续产生人工干预、流程中断和恢复成本。减少反复发生的错误,才有机会让已有能力承担更多实际工作。CEL 提供了通过群体实践继续改善可靠性的证据。由 FATS 保障经验持续产生、流转,再由 FERT 筛选值得重点学习的经验,系统与算法共同决定了群体学习的效率。

过去讨论机器人部署数量,产业更容易想到订单、收入和制造成本。CEL 则提示了值得继续验证的一层价值,投入运行的机器人,也可能成为持续改善共享策略的经验来源。

在手机包装实验中,研究保持单台机器人的经验采集时间一致,将参与学习的机器人由 16 台增加至 96 台,策略成功率由 86.7%提升至 98.3%。更多机器人在相同的单机采集时间内,提供了更多执行经验,并在这一任务与配置下带来了可靠性提升。

这里 Scaling 趋势的条件很明确:机器人数量增加的同时,总采集经验也增加了。结果初步展示了扩大群体经验规模的潜力。对于产业,它已经提出了有价值的方向,部署规模可以通过群体学习范式,与能力迭代建立更直接的联系。

沿着这条路径,企业对部署的经营也可能发生变化。完成交付之后,哪些任务持续失败,哪些成功经验具有复用价值,更新后的策略能否帮助更多同类设备,都将成为需要长期跟踪的问题。部署现场与研发之间的联系越紧,真实经验越有机会持续进入下一轮能力建设。

同样,机器人出货量也需要结合有效运行、经验回流和策略改善来观察。设备数量提供了经验积累的条件,算法与系统则决定这些条件能发挥多大作用。能够把现场问题转化为群体进步的企业,有机会随着部署扩大,积累更多后续学习所需的资源。

真实机器人、边缘节点与云端算力之间,因而需要建立更持久的协作。无问芯穹与清华大学、智元的联合探索,将这种需求放到了近百台真机的学习过程中检验:算力服务要理解物理设备的节奏,学习框架要应对现场的中断,算法则要把有限的反馈用得更有效。

从这一维度再看 RSI,产业要回答的问题也更具体了:执行中的经验如何留下来,失败如何改变下一轮学习,已经验证的能力又怎样被后续任务复用。CEL 通过群体经验更新共享策略,为其中的学习环节提供了实验支撑,同时也让“通过自身实践改善能力”有了可以继续扩展的起点。

事实上,这并不是无问芯穹与清华大学初次在具身智能中探索 RSI 的未来,此前双方就已经联合开源 RLark、RLinf、RPent、APXInf 等具身智能基础设施开源矩阵,从机器人集群与任务管理、强化学习训练,到物理世界智能体运行和端侧模型部署,持续推动智能能力在物理世界中验证、持续进化和落地应用。

这些探索让我们更有理由保持乐观。通用模型能力持续进步,真实交互的学习路径也在向前推进。对具身企业而言,更值得争取的是让每次部署都能带回有用经验,让这些经验帮助更多机器人完成任务。

CEL 的启发正在于此:物理世界里的经验有价值,更重要的是建立起消化这些经验的能力。机器人走进现场之后,学习能够继续发生,部署才有机会成为下一轮进步的起点。

特别声明:本文为合作媒体授权DoNews专栏转载,文章版权归原作者及原出处所有。文章系作者个人观点,不代表DoNews专栏的立场,转载请联系原作者及原出处获取授权。(有任何疑问都请联系idonews@donews.com)

标签: 具身智能
Copyright © DoNews 2000-2026 All Rights Reserved
京ICP备2025120072号