部署回流与真机 RL 数据
一句话结论
- 真机 RL 数据 = 目标本体、目标场景上的 rollout + 人工接管片段 + 结果标签;价值来自与部署分布零距离,而非规模。π0.6 / RECAP(π0.6)是目前唯一有官方一手数字的生产级范例:演示、自主 rollout、专家接管三类数据,价值函数优势条件化。[1][2]
- RECAP 官方给出的是结果而非投入:约 18 小时连续做咖啡、在新家庭连续折 50 件未见衣物、在真实工厂连续组装贴标 59 个纸盒;官方未给演示/自主/接管 episode 数量,也未给接管次数,外界无法估算其数据成本。[1][2]
- 公开可下载的"演示 + 纠正 + 部署 rollout"数据集目前只查到一个:AgiBot World 2026 第三期,首批 11,430 条轨迹(1,024 成功、1,369 失败 rollout),⚠️ 为媒体二手统计,数据集原始页面未直接核对,获取链接与许可证未查到。[3]
- "外包层"极早期:Enact(YC S26)(2 人团队)与 Cortex AI(3 人团队,融资采 $6.13M)都无公开客户与定价;全题范围内未查到任何公开的 RL rollout 单价。[8][9][10]
- 车队运营小时几乎都是公司口径或二手:Agility 65,000+ 小时(二手)、Figure F.02 在 BMW 1,250+ 小时(公司口径);1X(1XWM,Redwood) 的"1 万+ 小时"无来源,官方只有 1XWM 的 900 小时第一视角人类视频(中训练)+ 70 小时机器人数据(本体微调)。[11][12][13]
生产方式
RECAP(π*0.6)
- 发布于 2025-11(arXiv 2511.14759,55 位作者)。流程:先离线 RL 预训练,再在真机上 on-robot 专门化;数据三类:人工演示、on-policy 自主 rollout、自主执行中的专家遥操作接管。[2]
- 奖励按每个 episode 的整体结果给出;价值函数预测"到完成的负步数",成功 episode 为 1.0;价值变化(优势)作为条件输入策略。[1]
- 官方数字(公司口径):
| 指标 | 数字 | 说明 |
|---|---|---|
| 咖啡(espresso) | 约 18 小时(5:30am 至 11:30pm 连续制作饮品) | 各阶段成功率 90% 以上;二手媒体写"13 小时",弃用 [1] |
| 叠衣服 | 新家庭连续折叠 50 件此前未见衣物 | 持续数小时无中断 [1] |
| 纸盒 | 真实工厂连续组装并贴标 59 个盒子 | 巧克力包装场景 [1] |
| 最难任务 | 吞吐 "more than doubles",失败率降低 2 倍或更多 | 论文摘要口径为 "roughly halves" [1][2] |
| 数据量 / 接管次数 | 未披露 | 关键缺口 |
| 模型 | π0.6 VLA,约 5B 参数视觉语言骨干 | [1] |
- 实地合作方:二手来源称在 Weave Robotics(洗衣店折衣)与 Ultra(仓库订单包装)测试;"Weave 现场人工干预减少 50%"仅见二手报道,pi.website 页面未复现,⚠️ 待核。[4][5]
- 后续:2026-03 发布 RL Token(arXiv 2604.23073,VLA 之上做在线 RL,4 个真机任务,称最难环节速度最多提升 3 倍,数分钟到数小时练习);2026-04-16 发布 π0.7。[6]
学术在线 / 人在环 RL
| 工作 | 要点 | 来源 |
|---|---|---|
| SimpleVLA-RL(arXiv 2509.09674,ICLR 2026) | OpenVLA-OFT 上的在线 RL;LIBERO 达 SoTA,RoboTwin 1.0/2.0 相对提升 80%;单轨迹 SFT 下 LIBERO 17.3→91.7;奖励为仿真二值 outcome。真机 120% 提升为二手摘要,⚠️ 待核 | [14] |
| Dual-Actor Fine-Tuning(arXiv 2509.13774,小米机器人) | Talk-and-Tweak 人在环;三个真机任务约 101 分钟在线微调达 100% | [15] |
| VLAC(arXiv 2509.15937) | critic+policy 一体、分级人在环;四个真机任务 200 episode 内成功率约 30%→约 90% | [16] |
| HIL-SERL(arXiv 2410.21845,Science Robotics) | 人在环 RL 奠基工作,视觉奖励分类器 + 人工干预 | [17] |
| TwinRL-VLA(arXiv 2602.09023) | 数字孪生先探索,再针对性人在环 rollout;平均约 20 分钟 | [18] |
| REAL-I 真机 RL 挑战赛 总结(arXiv 2609.13679) | ICRA 2026 COMP 5,三阶段(仿真/真机/现场决赛),禁用额外数据;结论:需适应部署环境同时保留先验,离线动作预测指标不能预测闭环成功 | [19] |
单位成本
- RECAP 一类数据的每小时机时成本、操作员接管占比:未查到。
- 可参照的少量数据:Skild 称新模型 S1 以 3 小时数据达 98.9%(旧模型 3 天达 95%),公司口径、未经核验 [20];Dual-Actor 约 101 分钟达 100% [15]。说明目标场景上的少量真机 RL 单次成本低,贵的是车队与场景准入。
奖励 / 成败标签
| 方式 | 例子 | 说明 |
|---|---|---|
| episode 级人工成败 | RECAP | 按整体结果给奖励 [1] |
| 仿真自动判分 | SimpleVLA-RL | 二值 outcome,仿真天然可得,真机无等价物 [14] |
| 学习型分类器 / critic | HIL-SERL、VLAC | 视觉奖励分类器或 critic 代替人工 [16][17] |
| 区间级过程标注 | AGIBOT WORLD 2026 | 子任务完成、错误、干扰、接管、恢复区间,用于训练 reward / value model [3] |
| 人工接管本身作为信号 | RECAP、Cortex、Enact | 接管片段 = 纠正监督 + 失败位置标记 |
厂商与渠道
| 名称 | 国家 | 类型 | 规模口径 | 客户 | 融资 | 来源 |
|---|---|---|---|---|---|---|
| 智元机器人 AgiBot(数采体系 + AgiBot World) | 中国 | 机器人本体 + 公开 RL 数据集 | AGIBOT WORLD 2026 第三期:首批 11,430 条(1,024 成功 / 1,369 失败 rollout);98,159 个子任务区间、26,493 干扰段、5,795 错误段、10,684 人工接管段;14 类任务(网线插接、钥匙开门等);与龙旗科技真机 RL(RW-RL)称"数十分钟学会新技能"、6 天试产质检 99.99%(厂商自述) | 龙旗科技(南昌平板工厂) | 未核 | [3][21] |
| Physical Intelligence(π 系列数据体系) | 美国 | 基础模型 | RECAP 见上;stockanalysis 称"尚无商业产品、无商业化时间表";有私测微调 API 说法未证实 | Weave、Ultra、Dandelion Chocolate(二手) | 2025-11 $600M / $5.6B;另有谈 $1B / $11B+ 的报道,未见成交确认 | [4][22] |
| Enact(YC S26) | 美国(旧金山) | 真机 RL 环境 | YC 2026 批次(批次写法 S26 为二手);找出失败点并转成针对性恢复数据集;团队 2 人 | 未查到 | 未查到 | [8][23] |
| Cortex AI | 美国(旧金山,YC F25;另有"新加坡/美国"说法待核) | 人在环 rollout + 第一视角 | 团队 3 人(YC 页;EverDev 页写 10 名员工,口径不一);远程操作员在失败时接管、恢复数据回流;Cortex Marketplace 付费让职场承接采集;称参与训练 MolmoAct2(二手) | 未查到 | $6.13M(EverDev 引 Tech in Asia,2026-03) | [9][10] |
| Figure AI(Helix 500 小时,BMW 部署) | 美国 | 人形本体 | F.02 在 BMW Spartanburg 11 个月:周一至五 10 小时班、装载 9 万+ 零件、1,250+ 运行小时、贡献 3 万+ 辆 X3;页面写明 ">99% 每班放置成功率"为目标而非已报告结果(公司口径);学到的主要是硬件(前臂为首要故障点),未披露软件数据回流 | BMW | 未核 | [13] |
| 1X(1XWM,Redwood) | 挪威/美国 | 人形本体 | Redwood(160M 参数,二手)训练于 EVE 与 NEO 的遥操作 + 自主 episode,含成败 rollout,未给小时数 | 家庭 | 未核 | [12][24] |
| Skild AI | 美国 | 机器人基础模型 | 2026 年中报道 $100M 年化收入(run rate,Bloomberg 转述)、客户 8→60+ | 仓库、数据中心、东京咖啡馆、匹兹堡机场 | Series C $1.4B / $14B 估值 | [20][25] |
| Covariant | 美国 | 仓库拣选 | 2024-08 Amazon 聘走联合创始人及约 1/4 员工并获非独家模型授权,条款未披露;车队"数百台";RFM-1 是否进入 Amazon 车队未查到 | 仓库客户 | 未披露 | [26] |
| Agility Robotics | 美国 | 人形本体 | 65,000+ 运营小时、跨九个客户设施(二手聚合);GXO Flowery Branch 10 万+ 料箱、约 98% 任务准确率(二手) | GXO、Schaeffler、Amazon、丰田加拿大 | 未核 | [27][28] |
| Tesla Optimus | 美国 | 人形本体 | 马斯克在 2025Q4 财报会称 Optimus "主要用于学习与数据采集而非生产性任务"(转述);机器人数量"1,000-1,200 台"为估算,非官方 | 内部 | — | [29] |
| 银河通用 Galbot(仿真合成路线) | 中国 | 零售/药房人形 | 2025-06 北京近十家店常态运营(新华社);新店部署约 1 天(财联社);2026-09 老百姓大药房徐汇店常态运营,单均约 90 秒。数据回流机制未披露 | 老百姓大药房等 | 未核 | [30] |
| 优必选 UBTech | 中国 | 人形本体 | 2025 年报交付 1,079 台、收入 8.21 亿元、在手订单约 14 亿元(公司口径,界面新闻转述) | 东风柳汽等 | 上市公司 | [31] |
| RoboArena | 美国高校联合 | 评测 | 7 所学术机构、600+ 成对真机评测 episode、7 个通用策略;DROID 平台;CoRL 2025 oral | 学术 | — | [32] |
| RoboChallenge(Dexmal 与 Hugging Face) | 中国/美国 | 评测 + 数据 | 2025-10 上线;Table30 v2:18 个新双臂任务,2026-04-15 至 05-15 开放提交,96 支队、400+ 参与者(单一幻灯片,自报) | 学术/企业 | 未查到 | [33][34] |
公开数据与交易
- Table30(RoboChallenge):Hugging Face 公开,总 736 GB,30 个任务、4 个本体(ARX5、UR5、FRANKA、ALOHA),JSONL 状态 + MP4 视频,建议转 LeRobot。⚠️ 数据集卡片未写许可证、总 episode 数、是否含失败 rollout,v1/v2 亦未标注。它是评测配套的演示数据,不是 RL rollout 数据集。[35]
- AgiBot World 2026 第三期:见上表,获取链接与许可证未查到。
- 部署侧数据的企业间交易:湖北中心—智元数据交易——湖北人形机器人创新中心(100+ 台训练机器人、30+ 训练师)2026-01-15 向智元交付数千小时数据,称国内首例企业间专业化定制数据交易,金额未披露。⚠️ 这是训练场采集数据而非部署回流,仅作为数据定价参照。[36]
- REAL-I:主办方提供"大规模工业数据集(同构双臂人形)",规模与获取方式未查到。[19]
应用方式
- 阶段:后训练最后一段,目标是把通用策略推到可部署可靠性(吞吐、失败率),而非预训练。RECAP 的"离线 RL 预训练 + 在线专门化"两步法是当前范式。[2]
- 数据混合占比:RECAP 未披露;SimpleVLA-RL 类工作是"少量 SFT + 大量在线 rollout",在仿真中完成。[14]
- 评测:RoboArena、RoboChallenge 是同一"部署分布 = 评测分布"逻辑的另一端。RoboArena 论文:单实验室真机评测与 oracle 排名的 Pearson r 为 0.69,RoboArena 成对比较为 0.90(Elo)/ 0.97(Bradley-Terry)/ 0.98(任务感知),均为真机评测方法之间的比较(见 RoboArena)[32]。
- 外包链条:Enact 的"失败定位 → 针对性恢复数据 → 再训练"、Cortex 的"远程接管 + 恢复数据回流",都是把 RECAP 的数据生产环节外包;二者当前均无公开客户。[8][9]
- 代表论文:RECAP(arXiv 2511.14759)、RL Token(2604.23073)、SimpleVLA-RL、HIL-SERL、VLAC、TwinRL-VLA(见上)。
规模、成本与价格
| 项目 | 数字 | 口径 |
|---|---|---|
| RL rollout 公开单价 | 无 | Enact / Cortex 未公开定价 |
| RECAP 数据量与接管次数 | 未披露 | — |
| PI 最长连续运行 | 约 18 小时 | 公司口径 [1] |
| Figure F.02 BMW 累计 | 1,250+ 小时 / 11 个月 | 公司口径 [13] |
| Agility 累计 | 65,000+ 小时 | ⚠️ 二手,未见一手确认 [27] |
| 1X | 官方无运营小时数;1XWM 900 小时第一视角人类视频 + 70 小时机器人数据 | 官方 [39] |
| AGIBOT WORLD 2026 第三期(首批) | 11,430 条轨迹 | ⚠️ 二手 [3] |
| Table30 | 736 GB | HF 卡片 [35] |
| Skild | $100M 年化收入;Series C $1.4B / $14B | 媒体转述 [25] |
| PI 估值 | 5.6B(2025 − 11);11B+ 为洽谈报道 | 口径冲突 [22] |
| Cortex AI 融资 | $6.13M | 采信二手报道 [9] |
| Figure Helix 遥操数据(对照) | 约 500 小时(多机器人、多操作员) | 公司口径原话 "~500 hours in total" [37] |
当前"人形 + 工厂"的累计运行小时为万小时量级,与互联网视频规模差几个数量级,且大多数没有以数据集形式回流。
局限与争议
- 本体 + 策略双专属:RL rollout 是 on-policy 数据,换策略版本即失效,换本体更无法迁移,难以像演示数据那样跨客户复用与定价。
- 重置成本:真机每个 episode 需复位场景,人力成本高;"环境即服务"本质是卖复位 + 判分的运营能力。
- 奖励难自动化:真机缺乏仿真式 oracle,成败判定依赖人工或学习型 classifier,后者有奖励黑客风险;REAL-I 总结指出离线动作预测指标无法预测闭环成功。[19]
- 安全:在线探索可能损坏硬件或伤人,RECAP 以专家接管兜底;家庭场景(1X)的远程操作员可见室内,OECD AI 事件库将其归为 hazard。[38]
- 公司口径不透明:PI 未公布接管次数与硬件多样性;Agility 65K 小时、Skild $100M、Tesla 机器人数量均无一手核验;Tesla 自述机器人并未做生产性工作,其"部署"主要是数据采集。[29]
- 数据主权:PI、Skild 与客户的数据条款未查到(有报道称合作方数据回流预训练,属推断)。1X 的做法是用户同意 + 隐私控制(房间限制、人脸模糊、远程会话需批准),属消费端条款。
- 商业验证不足:Enact 仅 2 人;Cortex 融资口径冲突;RoboArena 为学术项目;"外包层"尚无客户或收入证据。
推断(非事实):车队、场景准入、操作员与打标运营是真壁垒;数据与本体、策略版本强绑定,难独立商品化,最可能的形态是 RaaS 或"环境即服务"打包进模型方的后训练流程,谁拥有 rollout、能否用于预训练才是定价核心。
口径冲突与未核实
| 说法 A | 说法 B | 采信 | 原因 |
|---|---|---|---|
| RECAP 咖啡约 18 小时(pi.website) | 二手媒体写 13 小时 | 18 小时 | 一手博客明确 5:30am–11:30pm [1] |
| Weave 现场人工干预减少 50%(humanoidsdaily) | pi.website 页面未复现 | 待核 | 仅二手 [5] |
| 搜索摘要称 pi.website 有 Dandelion/Weave/Ultra | pistar06 页面未出现,见 /blog/partner | 按来源页区分引用 | 抓取结果不一致 [1][4] |
| 1X Redwood "1 万+ 小时运营数据" | 1X 官方:1XWM 900 小时第一视角人类视频 + 70 小时机器人;Redwood 仅称"大规模遥操作与自主 episode" | 官方口径 | 1 万+ 小时无来源,疑与 10,000 预订单混淆;Redwood 页(160M 参数)不含 900/70 小时,该数字见 1XWM 页 [12][39] |
| 1X 10,000 预订单、已交付 | "截至 2026-07-16 无独立核实的交付" | 均标二手 | 来源冲突 [24] |
| Agility 65K 小时、跨九个设施 | 仅聚合站与德语报道,一手未确认 | 二手 | 无一手确认 [27][28] |
| Cortex AI 融资 $6.13M(EverDev 引 Tech in Asia) | $50M(Extruct) | $6.13M | $50M 无出处 [9] |
| Cortex 为美国(SF,YC F25) | "新加坡/美国"待核 | 美国(SF),⚠️ | 以 YC 页为准 [10] |
| Enact 批次写法 S26 | 一手仅 roundfunded 复述 | 标"YC 2026" | S26 为二手 [8][23] |
| Table30 已换到 v2(RoboChallenge) | HF 卡片未区分版本 | 属实但数据集无法区分 | v2 赛道 2026-04 至 05 [34][35] |
| AGIBOT WORLD 2026 第三期统计(报道口径) | 数据集原始页面 | 报道口径,⚠️ | 原始页面未直接核对,许可证未查到 [3] |
| PI 估值 $5.6B(2025-11) | 谈 $1B / $11B+;聚合站称 2026-05-21 Series C $1.05B | $5.6B 为已成交 | 其余未见成交确认 [22] |
| PI / Skild 数据主权条款 | — | 未查到 | 无公开细节 |
| "HELP / VLA-Precision" | — | 不采用 | 名称未对上任何论文 |
来源
访问日期均为 2026-10-14。
- https://www.pi.website/blog/pistar06
- https://arxiv.org/abs/2511.14759
- https://www.chnfund.com/article/ARc4ff318d-3c03-e057-04dc-3a2372511bf1(二手)
- https://www.pi.website/blog/partner
- https://www.humanoidsdaily.com/news/the-api-fication-of-robotics-physical-intelligence-unveils-real-world-performance-data-with-weave-and-ultra(二手)
- https://arxiv.org/html/2604.23073v1
- https://pi.website
- https://www.ycombinator.com/companies/enact
- https://www.everydev.ai/developers/cortex-robot(二手)
- https://ycombinator.com/companies/cortex-ai
- https://theresarobotforthat.com/humanoid-reality-index/digit/(二手)
- https://www.1x.tech/discover/redwood-ai
- https://figure.ai/news/production-at-bmw
- https://arxiv.org/abs/2509.09674
- https://arxiv.org/abs/2509.13774v1
- https://arxiv.org/abs/2509.15937v1
- https://arxiv.org/pdf/2410.21845
- https://arxiv.org/html/2602.09023v3
- https://arxiv.org/pdf/2609.13679
- https://aiweekly.co/alerts/skild-ai-hits-100m-revenue-run-rate-10-months-after-first-deployment-grows-to(二手)
- https://iotm2mcouncil.org/iot-library/news/connected-industries-news/agibot-reinforcement-learning-in-industrial-robotics/(二手)
- https://stockanalysis.com/private/physical-intelligence/(二手)
- https://www.roundfunded.com/en/yc-startup/enact(二手)
- https://runtimewire.com/article/1x-neo-preorders-home-robot-data-flywheel(二手)
- https://runtimewire.com/article/skild-ai-100m-revenue-run-rate-robotics(二手)
- https://aboutamazon.com/news/company-news/amazon-covariant-ai-robots
- https://theresarobotforthat.com/humanoid-reality-index/digit/(二手)
- https://www.therobotreport.com/schaeffler-plans-global-use-agility-robotics-digit-humanoid/(二手)
- https://iiot-world.com/smart-manufacturing/tesla-optimus-manufacturing-2026/(二手)
- https://www.news.cn/digital/20250623/00657ee2fbde4b4d8c005ea667b31737/c.html ;https://www.ithome.com/0/984/065.htm
- https://www.jiemian.com/article/14201676.html(二手)
- https://arxiv.org/pdf/2506.18123
- https://arxiv.org/abs/2510.17950
- https://speakerdeck.com/takasumasakazu/robochallenge-en(自报幻灯片)
- https://huggingface.co/datasets/RoboChallenge/Table30
- https://www.cls.cn/detail/2260010
- https://www.figure.ai/news/helix
- https://oecd.ai/en/incidents/2025-10-28-b5c8
- 1X World Model:https://1x.tech/discover/world-model-self-learning
本章涉及的实体
1X(1XWM,Redwood)公司与机构 · 全球
NEO 人形机器人开发商;1XWM 世界模型用 900 小时人类视频加 70 小时机器人数据
Agility Robotics(Digit)公司与机构 · 美国
Digit 双足仓储机器人,客户现场运行时长是其主要数据叙事
Apptronik(Robot Park)公司与机构 · 美国
Austin 人形机器人公司,约 9 万平方英尺 Robot Park 向 Gemini Robotics 供真机数据
Cortex AI公司与机构 · 美国
YC F25 早期团队,做人在环路 rollout 与职场第一视角数据
Covariant公司与机构 · 美国
仓库拣选机器人与 RFM-1 的先驱,2024 年被 Amazon 授权加挖角
Enact(YC S26)公司与机构 · 美国
YC 2026 批次的真机 RL 环境创业公司,把失败点转成恢复数据集
Figure AI(Helix 500 小时,BMW 部署)公司与机构 · 美国
Helix 人形 VLA 开发商,约 500 小时遥操(公司口径),F.02 在 BMW 部署 11 个月
Skild AI公司与机构 · 美国
Skild Brain/S1 开发商,混合遥操、人类视频、仿真与手套数据,客户回传闭环
无界动力公司与机构 · 中国
以隐空间世界模型加强化学习为路线的移动操作机器人公司,依托工业场景回流数据
REAL-I 真机 RL 挑战赛概念与方法
ICRA 2026 首届 REAL-I 挑战赛,限定示范预算比较 VLA 训练方法
AgiBot World数据集 · 中国
智元开源的百万条真机数据,含 2026 年 RL 第三期
Table30(RoboChallenge)数据集 · 全球
RoboChallenge 配套的 30 任务 4 本体公开真机数据
HIL-SERL论文与基准
视觉奖励分类器加人工干预的真机 RL,1–2.5 小时练到近满分
RoboScape-R论文与基准
以世界模型为通用训练环境、产生内生奖励的 RL 框架
SC3-Eval论文与基准
自一致视频世界模型评测,7 个真机 VLA 上 Pearson 0.929
SimpleVLA-RL论文与基准
OpenVLA-OFT 上的在线 RL,只需二值 outcome 奖励
World4RL论文与基准
扩散世界模型当模拟器,在想象环境中端到端 PPO 精调策略
π*0.6 / RECAP论文与基准
用演示、自主 rollout 与专家接管做优势条件化的真机 RL,数据量未披露
RoboArena工具与格式 · 美国
分布式真机评测,双盲成对比较,基于 DROID 平台
RoboChallenge工具与格式 · 全球
Dexmal 与 Hugging Face 的在线真机评测平台,配套 Table30 数据
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或 ⚠️ 的数字未经独立核实。