字节 Seaweed-7B
字节 Seed 7B 视频基座,披露约 100M 片段与 6 级质量过滤
- 总部
- 北京
- 数据类型
- 网络视频;合成仿真视频;人工偏好标注
- 规模口径
- 约 100M 片段、均长约 8s;665,000 H100 GPU 小时
- 客户
- 字节内部
- 融资
- 字节跳动 Seed
- 链接
- arxiv.org
数据规模与来源
Seaweed-7B(arXiv 2504.08685)预训练约 100M 片段、均长约 8s;约 22 万小时为换算值,原文为数量级口径。来源只写"diverse sources",未点名;另混入数百万条合成仿真视频 [1]。训练耗 665,000 H100 GPU 小时。
加工
数据管线日处理超 50 万小时。6 级质量过滤使人工评估的无效片段率由 42% 降到 2.9%;语义加视觉特征聚成 1 万+簇,头部簇降采样;captioner 为 CLIP 加 LLM,72B 教师蒸馏到 7B 学生 [1]。
后训练
SFT 约 70 万条高美学视频,其中约 5 万条最优并加权;DPO 对每个 prompt 生成 4 条,由人工选出 best 与 worst [1]。
口径提示
字节系公开的数据账中,Seaweed-7B 与 字节 Waver 披露的数字最多,Seedance 1.0 则补充了"公开与授权库"的来源口径,见 字节 Seedance(1.0 / 2.0)与即梦。授权状态与具体来源均未披露。
来源
相关卡片
卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。