11月12日消息,近日,知名 AI 视频企业 Runway 对外推出Praxis‑1,一款开放权重的世界动作模型(World Action Model),将自身成熟的视频预训练能力迁移到实体机器人控制领域,尝试破解机器人行业真实演示数据稀缺、采集成本高昂的痛点。整套模型权重、代码、微调工具以 Apache 2.0 协议对外开源,支持科研与商业落地使用。
机器人领域长期面临一大现实难题:想要训练通用的机器人控制策略,需要海量真机演示数据,但采集真实机器人操作视频成本高、规模有限。
Runway 的思路另辟蹊径:利用互联网海量普通日常视频做预训练,让模型提前学习物体运动规律、人手操作逻辑、任务演变过程,再少量接入机器人数据做微调,以此降低对昂贵真机演示样本的依赖。
Praxis‑1 总参数量约 272 亿,采用 MoE 混合专家扩散 Transformer 架构,实际每次推理激活约 28 亿参数。模型架构分为两大核心模块:视频主干网络负责预判接下来的画面场景;独立的动作专家模块读取视频网络的特征,输出对应的机器人运动指令。
针对不同硬件,仅需要一套轻量化输入输出映射层,主干网络与动作专家实现跨机器人硬件共享,可适配单臂、双臂等多种机器人本体,无需整体重训。
训练流程分为四个阶段:先完成通用视频预训练;接着切换时序因果注意力,学习第一人称视角人与机器人操作视频;之后接入动作专家,视频预测与动作预测联合训练;最后针对特定机器人硬件做定向微调。模型并非抛弃视频预测,全程将视频生成作为训练目标的一部分,一边想象未来画面,一边同步输出机器人动作,单次推理输出 1.6 秒时长的动作序列,机器人执行完后再传入新的相机画面继续推演下一步。
在 NVIDIA RoboLab‑120 仿真排行榜上,经过 DROID 数据集微调的 Praxis‑1 取得 46.2% 任务成功率,位列全部世界动作模型、开源机器人基础模型第一名,优于 FLUX 3 Action、π₀.5 等一众开源竞品。
在 Franka 真实机械臂实测中,面对 10 项桌面操作任务,Praxis‑1 达成 88% 的任务成功率,高于对比基线 FLUX 3 Action 的 80%。它不仅适配训练中见过的 Franka、YAM 双臂机器人,对从未出现在训练集的 Google RT‑1、低成本 SO‑101 机械臂,经过少量微调也能完成各类抓取、收纳、闭合抽屉等日常家务操作任务,展现出不错的跨硬件泛化能力。
Runway 团队还将 Praxis‑1 和前沿大模型智能体 GPT‑6 Astra 做了对照测试。虽然大模型智能体可以零样本规划任务,但推理时延和成本极高。
实测数据显示,完成相同任务,Praxis‑1 平均耗时仅为 GPT‑6 Astra 的 1/15.6,单任务运行成本仅为后者的 1/51。不过研究团队也表示二者具备互补关系:大模型负责高层任务规划,Praxis‑1 承担底层高速实时运动执行,是未来值得探索的技术路线。
工程部署层面,模型可在单张 80GB H100 显卡完成运行;经过 NVFP4 4 比特量化后,模型体积从 54.4GB 压缩至 17.5GB,任务性能仅有小幅衰减,有利于向端侧硬件移植。同时还提供实时分块推理模式,大幅降低机器人等待停顿时间,提升作业效率。
论文也客观披露当前模型的短板:面对外观相似物体容易抓错,这一问题主要来自视频未来预测环节;模糊的自然语言指令会降低任务完成度;依靠单条长提示完成多步骤链式任务表现依旧有限,往往需要把复杂任务拆解为多条简短指令。
目前 Runway 已在 Hugging Face、GitHub 放出三套模型权重:基于 DROID 微调单臂版本、YAM 双臂版本,以及中间训练阶段基础模型,附带仿真环境、全量微调与 LoRA 轻量微调代码。团队后续将重点攻关长时序任务推理、智能体规划闭环、模型自我迭代优化,同时联合硬件伙伴推进真实场景落地部署。



