SimpleVLA-RL

论文与基准部署回流

OpenVLA-OFT 上的在线 RL,只需二值 outcome 奖励

链接
arxiv.org

数据配方

少量 SFT 加大量在线 rollout:在 OpenVLA-OFT 上做在线 RL,奖励是二值 outcome,由仿真自动判分给出,不需过程奖励 [1]。全部在仿真中完成,数据主体是策略自己的 rollout。

结果与证据

LIBERO 平均成功率 91%→99%(SoTA);RoboTwin 2.0 38.3%→68.8%(相对提升 80%),RoboTwin 1.0 39.8%→70.4%;单轨迹 SFT 下 LIBERO-Long 17.3%→91.7% [1]。真机平均 17.5%→38.5%(+21.0 pt,约 120% 相对);论文文字称 Stack Bowls 提升 96%(32%→70%),与表 6 基线 38.0% 不符 [1]。

已知缺陷与口径

二值奖励依赖仿真判分,真机无等价物。收益集中在基准环境,真机结论证据弱。与 π*0.6 / RECAP 的真机 RL 数据路线不同。

来源

  1. arXiv 2509.09674 (2026-10-14)

卡片整理 2026-10-14。公司自报数据标“公司口径”;⚠️ 为未经独立核实。