AlphaFold DB 与结构蒸馏

概念与方法仿真

用预测结构当训练数据的做法,AF2 约 75% 训练样本取自自蒸馏

定义:用已训练模型预测结构(或序列),再把预测结果当作新模型的训练数据,称蒸馏或自标注。

证据:AlphaFold2 用初版模型预测 355,993 条 Uniclust 序列,最终训练约 75% 样本取自该自预测集、约 25% 来自聚类 PDB(NVIDIA 模型卡转述,二手;是采样比例,不是条目数比)[1]。ESM-IF1 用 AF2 预测 UniRef50 的 1,200 万条结构 [5]。ESM3 经逆折叠扩到 3.15B 序列、236M 结构 [2]。Boltz-2 主蒸馏集约 5M 条 AFDB 单体 [3]。OpenFold / OpenFold3 的 OpenFold3 preview 合成库 >1,300 万,约为实验结构的 40 倍(推算)。AlphaFold Protein Structure Database 已扩至 241,070,489 条(v6),同期移除 39,324,993、新增 65,711,653 条 [4],"2.14 亿"口径已过时。

争议:蒸馏上限等于教师,Boltz-2 对复合物用 Boltz-1 预测属二级蒸馏;模型崩溃研究(Shumailov 等,Nature 2024)针对 LLM/VAE/GMM,蛋白类是否同样发生 ⚠️ 未查到量化 [6]。

来源

  1. https://docs.api.nvidia.com/nim/reference/deepmind-alphafold2 (2026-10-15)
  2. https://www.biorxiv.org/content/10.1101/2024.07.01.600583v1.full (2026-10-15)
  3. https://www.biorxiv.org/content/10.1101/2025.06.14.659707v1.full (2026-10-15)
  4. https://www.ebi.ac.uk/pdbe/news/alphafold-database-release-notes (2026-10-15)
  5. https://www.biorxiv.org/content/10.1101/2022.04.10.487779.full.pdf (2026-10-15)
  6. https://oatml.cs.ox.ac.uk/publications/202407_Shumailov_ModelCollapse.html (2026-10-15)

卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。