VideoDPO

论文与基准中国后训练

用自动打分构造 1 万 best/worst 偏好对的视频 DPO

数据类型
自动构造偏好对
规模口径
1 万 prompt x 4 候选,取 best-vs-worst 1 对 = 1 万对
License
未查到
链接
arxiv.org

数据构造

2024-12 发布。取 VidProm 的 1 万条人写 prompt,每条生成 4 个候选视频,按 best-vs-worst 选 1 对,共 1 万对偏好数据 [1]。

偏好来源

偏好由自动指标 OmniScore(质量 + 对齐)给出,而非人工标注,因此无标注人力成本 [1]。

意义

代表 "用自动评分替代人工偏好" 的路线,与 VideoReward / VideoAlign 的 18.2 万人工偏好三元组形成对照;同路线还有 OnlineVPO、DanceGRPO / Flow-GRPO,削弱了对新增人工偏好数据的需求。

局限

自动指标的噪声与 reward hacking 风险随之进入训练;规模仅 1 万对。

来源

  1. https://arxiv.org/html/2412.14167 (2026-10-15)

卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。