VideoReward / VideoAlign

数据集中国后训练

快手 18.2 万偏好三元组与配套多维奖励模型

数据类型
视频偏好三元组;三维评分
规模口径
1.6 万 prompt、10.8 万视频、18.2 万标注三元组(作者口径)
License
未查到
链接
github.com

内容与规模

快手 KwaiVGI 等于 2025-01 发布。1.6 万 prompt(8 大类,GPT-4o 扩写)生成 10.8 万视频,来自 12 个 T2V 模型(Gen2、SVD、Pika 1.0、PixVerse、Dreamina、Luma、Gen3、Kling 1.0/1.5 等),形成 18.2 万标注三元组,是论文所称的大规模人类偏好集;另有验证集 1.3 万三元组、VideoGen-RewardBench 2.65 万对 [1]。

标注方式

同一 prompt 下两个不同模型的视频成对比较,三维为 VQ(视觉质量)、MQ(运动质量)、TA(文本对齐),含 A 胜/平/B 胜与 1–5 Likert。论文称聘用 "professional annotators",人数与厂商未披露 [1]。

谁在用

奖励模型基于 Qwen2-VL-2B 一类 VLM,配 Flow-DPO/RWR/NRG 对齐 [2];DanceGRPO / Flow-GRPO 将其作为评测与奖励之一。

局限

论文自述早期偏好集基于低分辨率旧模型,与现代模型偏好不匹配,需持续重标。

来源

  1. https://arxiv.org/html/2501.13918 (2026-10-15)
  2. https://arxiv.org/html/2505.17618 (2026-10-15)

卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。