字节 Seaweed-7B

论文与基准中国模型配方

字节 Seed 7B 视频基座,披露约 100M 片段与 6 级质量过滤

总部
北京
数据类型
网络视频;合成仿真视频;人工偏好标注
规模口径
约 100M 片段、均长约 8s;665,000 H100 GPU 小时
客户
字节内部
融资
字节跳动 Seed
链接
arxiv.org

数据规模与来源

Seaweed-7B(arXiv 2504.08685)预训练约 100M 片段、均长约 8s;约 22 万小时为换算值,原文为数量级口径。来源只写"diverse sources",未点名;另混入数百万条合成仿真视频 [1]。训练耗 665,000 H100 GPU 小时。

加工

数据管线日处理超 50 万小时。6 级质量过滤使人工评估的无效片段率由 42% 降到 2.9%;语义加视觉特征聚成 1 万+簇,头部簇降采样;captioner 为 CLIP 加 LLM,72B 教师蒸馏到 7B 学生 [1]。

后训练

SFT 约 70 万条高美学视频,其中约 5 万条最优并加权;DPO 对每个 prompt 生成 4 条,由人工选出 best 与 worst [1]。

口径提示

字节系公开的数据账中,Seaweed-7B 与 字节 Waver 披露的数字最多,Seedance 1.0 则补充了"公开与授权库"的来源口径,见 字节 Seedance(1.0 / 2.0)与即梦。授权状态与具体来源均未披露。

来源

  1. https://arxiv.org/html/2504.08685 (2026-10-15)
  2. https://arxiv.org/html/2506.09113 (2026-10-15)

卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。