语
六层数据链：预训练语料、版权授权、后训练人类数据、RL 环境、合成与蒸馏、部署回流；谁在供、模型怎么配、多少钱、卡在哪条法律线。
机器人数据专栏的问题是"每一条示范都要有人、有设备、有场地去生产"。大语言模型正好相反：预训练语料几乎全部来自免费的公共爬取品，边际成本接近零。于是价值和争议都从"采集"挪到了别处——清洗与去重的算力、版权的法律边界、后训练阶段的专家小时、RL 环境里那个自动打分器，以及产品部署后每天流回来的 9 亿周活用户的对话。2026 年的头部配方已经说明了这件事的结构：预训练 token 数以十万亿计且基本不披露来源，后训练数据只有几十万到几百万条却决定模型风格与能力，而最贵的一层——RL 环境——正在变成 lab 自建、外包只接长尾。谁在供这些数据、模型怎么配、一百万 token 多少钱、卡在哪条法律线，是这个专栏要回答的问题。
按"生产方式"与"离模型最终行为的距离"排序。常见的"预训练 / 后训练"二分法，这里拆成六层，因为后训练里的人类标注、RL 环境、合成蒸馏三条路线成本结构完全不同，而版权授权和部署回流在 2025–2026 年已经分别成为独立的市场与定价对象。
| 层 | 数据 | 生产方式 | 典型规模 | 在模型里的角色 |
|---|---|---|---|---|
| 1 | 预训练语料 | 公共爬取 → 过滤 → 去重 → 配比；上游几乎全是 Common Crawl（含 Common Crawl Foundation） | 10T–40T token（Qwen3 36T）；开源语料 FineWeb / FineWeb-Edu / FineWeb-2 / FinePDFs（Hugging Face） 首发 15T（现版约 18.5T）、Dolma / Dolma 3（Ai2；含 Dolma toolkit、Olmo 3 数据） 3 池 9.3T | 体量最大、成本最低；过滤型方案丢弃约 90% 原始数据 |
| 2 | 版权授权与数据交易 | 把已有内容权利化：年费、每本、每张、每次请求 | 单笔 $5 万到 $5,000 万/年；Bartz v. Anthropic 和解每部约 $3,100 | 降低诉讼风险、换取独占与实时访问；token 口径几乎不出现 |
| 3 | 后训练人类数据 | 专家出题、判分、偏好对比；lab 出 spec、vendor 生产 | SFT 几十万到百万条；偏好对十万级 | 对齐层：条数少、权重大；已变成 $50–250/h 的专家时薪市场 |
| 4 | RL 环境与可验证奖励 | 可交互世界 + 任务 + 自动打分器 + 可重置基础设施 | Tülu 3（SFT mixture / 合成配方 / Dolci） RLVR 仅 29,946 条；DeepSeek（深度求索） V3.2 合成 1,827 个环境 | agent 能力的限速因素；最贵部件是 grader 而非容器 |
| 5 | 合成数据与蒸馏 | 改写真实文档 / 教师生成 / 推理轨迹蒸馏 / AI 反馈 | Phi-4 预训练约 55% 合成或改写；Nemotron-CC / v2（NVIDIA） 6.3T 中约 1.9T 为改写 | 放大器；成本在验证与过滤，不在生成 |
| 6 | 部署回流与用户数据 | 消费级产品默认训练、可关闭；商业/API 档默认不训练 | ChatGPT 周活 9 亿（公司口径）；无人披露占比 | 后训练与评测的原料；成本在合规与信任，不在采集 |
第十章 各模型公司的数据配方与供应商全景 把中美 40 余家模型公司按这六层逐家拆开（用了哪层、多少 token、自建还是外采、供应商是谁），附公司×数据层热力图与供应商矩阵。
三条横切主题：开源数据集、格式与处理工具（Hugging Face（Hub / Datasets） Hub、datatrove 等四套开源流水线、tokenizer 与去污染）、厂商全景、诉讼与政策（50+ 数据商约 $85 亿/年的 lab 采购市场、Bartz / NYT / Kadrey / Ross 四条判例线、欧美中政策分叉、爬虫治理）、价格、成本与配比（六个数量级的价格带、有公开配比的模型逐一列表）。
把按小时、按本、按任务计价的数据统一折成每百万 token 美元，与合成 token 放在同一根轴上；跨度达 5 个数量级以上，人类数据比机器生成的 token 贵几个数量级。
| 数据层 / 类型 | 原价（低–高） | 单位 | 隐含 $/百万 token（低） | 隐含 $/百万 token（高） | 口径 |
|---|---|---|---|---|---|
| 合成 token：商用 API 输出价 | 0.6–10 | $/M tokens | 0.6 | 10 | DeepSeek 官方页 deepseek-flash 错峰输出 $0.6（峰时 $1.2）至 GPT-4o $10 每百万输出 token；GPT-4o 价取自第三方聚合站，访问 2026-10-15 |
| 合成 token：自部署开源模型 | 0.055–0.55 | $/M tokens | 0.055 | 0.55 | 作者估算：单 H100 吞吐 1k–10k token/s、$2/h，低置信 |
| 用户数据：Muse 贡献者折扣 | 1.15–4.05 | $/M tokens | 1.15 | 4.05 | 标准档与贡献者档的输入/输出价差；待核 |
| 通用标注（含二手自报） | 4–40 | $/h | 2,000 | 20,000 | Remotasks 自报 $4–7 至 Outlier 聚合站 $40；二手，低可信 |
| 中国专家标注 | 14–55 | $/h | 7,000 | 27,500 | ¥100–400/h 按约 7.3 折算；媒体口径 |
| 美国专家标注（STEM/经金） | 55–100 | $/h | 27,500 | 50,000 | Mercor 岗位页标价，不含平台抽成 |
| RL 环境：单任务 | 200–2,000 | $/任务 | 2,000 | 20,000 | Epoch 访谈：受访者称多为 $200–2000，约 $2 万的复杂软件工程任务少见 |
| 图书和解：Bartz v. Anthropic | 3,000–3,000 | $/本 | 30,000 | 30,000 | $15 亿 / 约 48 万部（482,460 列表；终审合格 440,490）；含盗版获取赔偿性质，非纯训练授权价 |
| 图书授权：HarperCollins | 5,000–5,000 | $/本 | 50,000 | 50,000 | $5,000/本 backlist，3 年；买方据报为微软（匿名来源） |
口径说明：每本书按 10 万 token、专家与通用标注按每小时产出 2,000 token、RL 环境按每任务 10 万 token 折算，汇率约 7.3 元/美元；合成与用户数据本身按 token 计价，不换算。开源语料价格为 0，对数轴无法表示，未入图。折算假设为作者设定，只宜看量级。
技术报告与论文的数字为"论文口径"；公司自述为"公司口径"；媒体转述为"媒体口径"；按公开单价所做推算标"作者估算"；未能回溯到一手来源的标 ⚠️。每章末尾的"口径冲突与未核实"表列出被否定或存疑的流传说法（如"2026 年仅约四成授权含训练用途"、"Reddit–OpenAI 7,000 万/年"、"DCLM 7B 训练 4T"，实训为 2.6T、4T 为数据集规模），这些说法在正文中不作为事实使用。
开放预训练语料几乎都源自 Common Crawl，竞争点从规则过滤转向模型打分与合成改写。
新闻、社区、图书与图库的 AI 授权价格、中介市场与付费爬取，以及 Bartz 和解定价锚。
SFT 示范、偏好对比、专家题库与 rubric：从众包计件到 $50-250/h 的专家时薪市场
后训练转向 RL 后，可验证任务的供给成为 agent 能力的限速因素；环境怎么造、谁在卖、卖多少钱。
教科书合成、网页改写、指令合成、推理蒸馏与 AI 反馈：谁在用、占多少、花多少钱
对话、反馈与 agent 轨迹如何回流训练：各产品的训练政策、数据换折扣与合规边界。
托管与格式、处理工具链、tokenizer、后训练开源集、去污染与 license 灰区
数据商市场结构、融资并购、版权诉讼梯度与各国政策、爬虫治理
从 $0 开源语料到 $30 万环境的价格带，及开源模型的数据配比披露度
中美及全球约 50 家模型公司六层数据怎么配、向谁买、谁在互相供数