OpenThoughts（含 Sky-T1）

内容与规模

OpenThoughts 由 Bespoke Labs 与 DataComp 社区等牵头：OpenThoughts-114k 用 DeepSeek-R1 生成推理轨迹，OpenThoughts3-1.2M（85 万数学 / 25 万代码 / 10 万科学题）改用 QwQ-32B 作教师；OpenThoughts3-1.2M 训练出的 OpenThinker3-7B 在 AIME25 达 53%、LiveCodeBench 51%、GPQA-D 54%，比 R1-Distill-Qwen-7B 分别高 15.3 / 17.2 / 20.5 个百分点（论文口径）[1]。公司背景见 Bespoke Labs。

Sky-T1

NovaSky（2025-01）：约 1.7 万条，由 QwQ-32B-Preview 生成轨迹、GPT-4o-mini 重写格式；8×H100 训练约 19 小时，作者称总成本低于 $450 [2]。

意义与局限

数据量小（万级到百万级）但效果显著，是蒸馏合规争议的中心之一；它们以开放教师为准，规避闭源条款，但 Qwen 等许可证的传导仍需逐模型核对。Thinking Machines 的 Tinker 文档把 OpenThoughts3 列为示例配方。

来源

1. https://arxiv.org/abs/2506.04178 (2026-10-15)
2. https://novasky-ai.github.io/posts/sky-t1/ (2026-10-15)
3. https://huggingface.co/datasets/open-thoughts/OpenThoughts3-1.2M (2026-10-15)