Type 2 · Promising method Requested 证据 A 收录

Ropedia W0: Scaling Loco-Manipulation World Models across Embodiments with Human Experience

Tianqi Liu, Hanfei Zhao, Qifeng Liang et al. Fangzhou Hong, Zhaoxi Chen, Ziwei Liu

全部作者(15)

Tianqi Liu, Hanfei Zhao, Qifeng Liang, Hui En Pang, Jiarui Xu, Sayang Mu, Penghao Qiu, YingSheng Zhang, Jun Wang, Ziang Cao, Mingze Sun, Yukang Cao, Fangzhou Hong, Zhaoxi Chen, Ziwei Liu

发布 · 收录于 2026-11-05

把人和各种机器人的动作都画成“相机轨迹+图像上的骨架”,一个视频世界模型就能同时学 1 万小时人类视频和 3 千小时机器人视频,并随人类数据增多而变强。

任务
第一人称移动操作(loco-manipulation)视频预测,即世界模型
数据
Xp-Data:约 1 万小时人类 + 3 千小时机器人视频
硬件
8 种本体,真机用 Unitree G1 + 灵巧手
代码
已公开(GitHub + 项目页)
主要数字
Xp-Teleop 零样本 PSNR 16.42 dB,最佳基线 13.85

证据等级 A · 真机 + 多基准 + 消融 (A 真机 + 多基准 + 消融 / B 仿真充分 / C 单一基准或无代码)

动机

中间是一个模型吃进人类和机器人两类数据,两侧是它为不同本体预测的画面,下方四条曲线显示人类数据越多误差越低、画质越高。
原文图 · P.1 中间是一个模型吃进人类和机器人两类数据,两侧是它为不同本体预测的画面,下方四条曲线显示人类数据越多误差越低、画质越高。 图片来源:Liu et al., Ropedia W0: Scaling Loco-Manipulation World Models across Embodiments with Human Experience (arXiv:2610.26855) · 查看原文

世界模型(world model) 是一个“想象器”:给它当前画面和接下来的动作,它预测未来画面,机器人就能先在脑子里试一试再动手。

现有机器人世界模型大多只管固定底座的夹爪操作,很少处理“边走边做”(行走带来的视角变化 + 灵巧手操作)。更麻烦的是跨本体:不同机器人的关节数量和含义都不一样,DreamDojo、Cosmos3 等方法要给每种新机器人单独设计动作接口或额外适配(P.2)。

人类第一人称视频很多、很便宜,但公开数据集常缺少米制相机轨迹、手部标注噪声大、格式不统一,难以直接拿来训练(P.2)。

方法

  1. 1收数据1万小时人类+3千小时机器人视频
  2. 2统一标注相机轨迹+投影骨架,人工校正
  3. 3编码动作相机→射线图,手→骨架图
  4. 4视频扩散首帧+文字+控制图预测未来画面
  5. 5两段训练先人类预训练,再人机1:1混合
  6. 6蒸馏提速4步因果学生,约21帧/秒

比喻:不管是人手、夹爪还是五指灵巧手,都先画成一张贴在画面上的“火柴人”骨架图;模型只需学会“骨架这样动、镜头这样走,画面会怎么变”,于是人类视频学到的规律可以直接搬给机器人。

1. 统一的运动表示(P.7-8) - 行走:相机相对首帧的位姿编码成 Plücker 射线图(每个像素记录一条视线的方向和位置,共 6 个通道),平移用米制单位,不同本体尺度一致。 - 操作:人手用 WiLoR/MANO 估计的手部关键点;机器人用 URDF 正运动学(FK,由关节角算出各关节位置)投影到图像上,再大量人工标注和纠正对不齐的关键点(P.6)。 - 可选:手腕位姿图、1.5 倍视野的“宽视野骨架”,补上画面外的手臂信息。

2. 条件注入(P.9):基于 Wan2.2 视频扩散模型,有 5B 稠密版和 A14B 混合专家版(约 27B 总参数、14B 激活)。射线图和骨架图编码后与视频 token 逐位置相加(投影层零初始化,开始时不破坏原模型);宽视野骨架因为和画面不逐像素对齐,走单独的交叉注意力。

3. 训练与蒸馏(P.9-10):先只用人类视频预训练,再用人类和机器人数据各占一半继续训练(mid-training)。之后蒸馏成 4 步自回归学生模型,并用 LongLive 做流式长视频生成,实现分钟级实时生成。

从左往右读:左栏把人手和各机器人都变成图像上的骨架,中栏把相机轨迹变成射线图、把骨架变成骨架图,右栏把它们与首帧和文字一起送进扩散模型生成视频。
原文图 · P.8 从左往右读:左栏把人手和各机器人都变成图像上的骨架,中栏把相机轨迹变成射线图、把骨架变成骨架图,右栏把它们与首帧和文字一起送进扩散模型生成视频。 图片来源:Liu et al., Ropedia W0: Scaling Loco-Manipulation World Models across Embodiments with Human Experience (arXiv:2610.26855) · 查看原文

实验

Xp-Teleop 零样本预测质量(不做后训练) PSNR (dB) · 越高越好 ↑
Xp-Teleop 零样本预测质量(不做后训练)(PSNR (dB),越高越好 ↑):DreamDojo (14B) 13.49 dB;Cosmos3-Nano (16B) 13.69 dB;Cosmos3-Super (64B) 13.85 dB;本文 5B 混合训练(本文) 14.98 dB;本文 A14B 混合训练(本文) 16.42 dB DreamDojo (14B) 13.49 dB Cosmos3-Nano (16B) 13.69 dB Cosmos3-Super (64B) 13.85 dB 本文 5B 混合训练 · 本文 14.98 dB 本文 A14B 混合训练 · 本文 16.42 dB 01020

本文方法 对比方法 · 数据来源:Table 4, P.14

条件消融:跨本体评测集(8 种本体) PSNR (dB) · 越高越好 ↑
条件消融:跨本体评测集(8 种本体)(PSNR (dB),越高越好 ↑):本文 A14B 完整(本文) 21.98 dB;去掉相机射线图 21.65 dB;去掉骨架图 18.17 dB;Cosmos3-Nano 同数据微调 19.02 dB 本文 A14B 完整 · 本文 21.98 dB 去掉相机射线图 21.65 dB 去掉骨架图 18.17 dB Cosmos3-Nano 同数据微调 19.02 dB 012.525

本文方法 对比方法 · 数据来源:Table S6, P.42

人类预训练的作用(GR-1 In-lab,5B) PSNR (dB) · 越高越好 ↑
人类预训练的作用(GR-1 In-lab,5B)(PSNR (dB),越高越好 ↑):官方底座 · 1% 数据 16.04 dB;本文 · 1% 数据(本文) 20.85 dB;官方底座 · 100% 数据 19.41 dB;本文 · 100% 数据(本文) 21.74 dB 官方底座 · 1% 数据 16.04 dB 本文 · 1% 数据 · 本文 20.85 dB 官方底座 · 100% 数据 19.41 dB 本文 · 100% 数据 · 本文 21.74 dB 012.525

本文方法 对比方法 · 数据来源:Table S7, P.42

评测:五个跨本体基准(DreamDojo 的 GR-1 三个测试集、Ψ0、ω-HOME、自建 Xp-Teleop、AgiBot)加 200 段没见过的人类第一人称视频(P.11)。指标:PSNR、SSIM 越高越好,LPIPS 越低越好;相机轨迹误差 ATE/RPE/RRE 越低越好,手部 PCK 越高越好。对比 DreamDojo(2B/14B)、Cosmos3(16B/64B)、OSCAR、RynnWorld-Teleop(P.12)。

主要结果 - 人类视频零样本:A14B 预训练版 PSNR 19.77,Cosmos3-Nano 18.66;相机 ATE 1.542 cm vs 1.931 cm(表 2,P.13)。 - DreamDojo 基准只用 1% 后训练数据:A14B 在 In-lab 上 PSNR 23.028,DreamDojo 14B 为 18.983(表 3,P.14)。 - Xp-Teleop 不做后训练:A14B 已超过所有基线用全量数据后训练的结果(表 4,P.14)。注意“零样本”指评测数据集没训练过,但同一种机器人可能在混合训练里出现过(P.12)。 - 消融:去掉骨架条件,A14B PSNR 掉 3.8 dB;去掉相机条件平均只掉 0.3 dB,但在视角移动的本体上掉 1.3 dB(P.13)。 - 规模:随人类预训练小时数增加(对数坐标到 10k 小时),人类和机器人评测都单调变好(图 6-8,P.15-16);模型从 5B 换到 A14B,PSNR 再涨 1.4-2.3 dB(P.15)。

下游应用(P.16-18):当策略评估器,与真实成绩相关系数 0.984(仿真)/0.996(真机);做候选规划,仿真任务进度 92%(随机 53%)、真机 G1 55%(随机 26%);初始化世界-动作模型,LIBERO-Plus 成功率 50.06%→56.82%,真机 G1 任务进度 56.7%(FastWAM 33.3%)。

速度:蒸馏后的 4 步 5B 学生在单卡上 640×480 达 21.3 帧/秒,比 50 步教师快 7 倍,质量不降(表 S1,P.36)。

站得住的:多基准、多规模、带消融,预训练与官方底座的对照很干净。要打折的:真机实验规模小;主要指标是像素相似度,不直接衡量接触和物体物理是否正确(作者也承认,P.54)。

左两图看点是否贴着对角虚线(模型打分与真实成绩一致),右两图看红色柱(用模型挑选候选动作)是否高于灰色的随机挑选。
原文图 · P.17 左两图看点是否贴着对角虚线(模型打分与真实成绩一致),右两图看红色柱(用模型挑选候选动作)是否高于灰色的随机挑选。 图片来源:Liu et al., Ropedia W0: Scaling Loco-Manipulation World Models across Embodiments with Human Experience (arXiv:2610.26855) · 查看原文
左边是真机 G1 抓放物体的关键帧,右边柱状图比较三种策略的任务进度,红柱是用本文模型初始化的策略。
原文图 · P.18 左边是真机 G1 抓放物体的关键帧,右边柱状图比较三种策略的任务进度,红柱是用本文模型初始化的策略。 图片来源:Liu et al., Ropedia W0: Scaling Loco-Manipulation World Models across Embodiments with Human Experience (arXiv:2610.26855) · 查看原文

要点 Take-home

  1. 把动作画成相机轨迹加图上骨架,人和不同机器人能共用一个世界模型
  2. 人类视频越多,人和机器人的预测都持续变好
  3. 有人类预训练后,1% 机器人数据就胜过从头用 100% 数据
  4. 它只学画面后果,不建模接触和物体物理,真机验证仍较少

Claude 读完全文后的提炼。

更多:先读哪 · 值得看的理由 · 质疑

先读哪

先看第 1 页图 1 和第 8 页图 4,再看第 14 页表 4 和第 17 页图 9

值得看的理由

  1. 统一的相机+骨架接口让人类视频直接帮到机器人:只用 1% 机器人数据,就超过官方底座用 100% 数据的效果 → P.14 第 6.3 / Table S7 节
  2. 不只比画面:真机 G1 上做了策略评估、候选规划和世界-动作模型初始化,且代码和项目页已公开 → P.17 第 6.4, Fig. 9, Table 6 节

质疑

  • 真机证据偏薄:真机策略评估的相关系数只基于 4 个点(3 个 Ψ0 检查点+遥操作),真机规划和世界-动作模型的试验次数未报告 → P.17 第 6.4, Fig. 9(b,d) 节