Self-Instruct / Alpaca / Evol-Instruct
175 条种子自举指令数据，Alpaca 以不到 $500 复刻指令微调
- 成立
- 2022-12
- 数据类型
- 合成指令；SFT 数据
- 规模口径
- Alpaca 5.2 万条，项目自述成本低于 $500
- 链接
- arxiv.org
Self-Instruct
2022-12：从 175 条人工种子出发，让模型自举生成指令、输入与输出，过滤后微调自身。对 GPT-3 在 Super-NaturalInstructions 上绝对提升 33%，与 InstructGPT-001 相当，人评差 5% [1]。
Alpaca 与 Evol-Instruct
Stanford Alpaca（2023-03-13 发布博客）用 text-davinci-003 按 Self-Instruct 生成 5.2 万条，项目自述 API 成本低于 $500（2023 年价）[2]。Evol-Instruct 出自 WizardLM（arXiv 2304.12244，2023-04-24），是在此类自举指令上逐步改写以增加复杂度的变体（论文细节未逐项复核）。
局限
教师模型的知识上限与服务条款限制了合成数据的使用范围；这一路径是后来蒸馏争议的起点，见 蒸馏地缘政策与条款禁令。
来源
相关卡片
卡片整理 2026-10-15。公司自报数据标“公司口径”；⚠️ 为未经独立核实。