Company
ByteDance Seed / Doubao
Verifiable question sets + in-house expert annotation platform + B2B usage-based licensing; the route closest to "build mostly in-house, buy externally in parallel"
Overview
- Founded: 2023
- HQ: Beijing
- Links: https://seed.bytedance.com; https://arxiv.org/abs/2504.13914
This profile was compiled from the AI training-data column cards (LLM); each column's data view is shown below under "Data profile" (in Chinese).
Data profile · 大模型
字节 Seed / 豆包
可验证题集 + 自有专家标注平台 + B 端用量授权，路线最接近"自建为主、外采并存"
- 数据类型
- 可验证 STEM 题；逻辑谜题生成器；专家核验；API 用量授权
- 规模口径
- Seed1.5-Thinking 可验证 prompt 约 110k（STEM 100k + 谜题约 10k）；SFT 400k；Seed1.5-VL 多模态 3T token
数据路线一句话
以可验证题集驱动推理 RL，专家只做核验与命题；自建 Xpert 专家平台，同时对外采购传统标注并通过 B 端协议授权真实用量。
六层明细
- L1 语料：纯文本基座（Doubao-1.5 Pro / Seed1.6 / Seed2.0）总 token 未披露；Seed1.5-VL 多模态预训练 3T token，按图文、OCR、grounding、3D、视频、STEM、GUI 分组并含合成管线（公司口径）[1][2][3]。
- L2 授权：未披露。
- L3 人工：总量未披露；专家核验与参考答案不一致的 STEM 题、撰写冷启动样本、命题 100 道 BeyondAIME；奖励模型偏好数据与 Doubao-1.5 Pro 相同 [1]。
- L4 RL 环境：可验证 prompt 约 110k（STEM 100k，数学占 80% 以上；22 类逻辑谜题约 10k，自带生成器与验证器）；SFT 400k（300k 可验证 + 100k 非可验证）[1]。
- L5 合成蒸馏：谜题由生成器无限合成，长 CoT 由拒绝采样加 Seed-Verifier 过滤；占比未披露。
- L6 回流政策：Seed2.0 model card 披露协作激励计划，见 doubao-incentive-program；C 端对话回流用于训练的比例未披露 [3]。
自建与供应商
自建：Xpert 专家标注平台按小时计酬、有准入考试（个人博客口径 ⚠️）[6]；标注员"4 万"仅为 2020 年媒体转述，不可当现状。外采：海天瑞声 2025-12 投资者关系记录称字节为重要客户之一，金额与是否用于大模型均未披露 [4]；法本信息 2025-03 称合作含数据标注、采集与 ITO 外包 [5]。见 haitian-ruisheng。
反向供给与争议
仅开源 BeyondAIME 等评测集，训练语料未开放。2023 年使用 OpenAI API 事件见 bytedance-openai-api-case。
- https://arxiv.org/html/2504.13914 (2026-10-15)
- https://arxiv.org/pdf/2505.07062 (2026-10-15)
- https://arxiv.org/pdf/2607.00248 (2026-10-15)
- https://www.nbd.com.cn/articles/2025-12-05/4170492.html (2026-10-15)
- https://www.cls.cn/detail/1964093 (2026-10-15)
- https://zhuanlan.zhihu.com/p/1974432877497321086 (2026-10-15)
Last compiled: 2026-10-15