ESM-2 / ESMFold

论文与基准美国配方

UniRef50 约 6,500 万簇训练的蛋白语言模型,ESMFold 用 AF2 蒸馏

数据类型
蛋白序列

模型与发布

Meta FAIR 2022–2023 发布的蛋白语言模型 ESM-2 及其折叠头 ESMFold;2025 年后 Biohub 推出 ESMFold2 与 ESMFold2-Fast,被 Anthropic 管线当作排序器,见 Anthropic 蛋白 binder 实验(ESMFold2 训练数据未查到)。

训练数据配方

  • 公共库:UniProt 的 UniRef50 约 6,500 万簇;每步在簇内均匀抽样,再取一条 UniRef90 序列。NVIDIA 复现口径为 65,182,365 个训练簇、187,382,018 条 UniRef90 序列(二手)[1]。
  • 蒸馏合成:ESMFold 的结构监督含 AF2 预测蒸馏,约 1,200 万 ⚠️ 未回源(见 AlphaFold DB 与结构蒸馏)。
  • 私有真值:无。

数据供应方与许可

UniProt。

已知问题与口径冲突

簇数为第三方复现口径,非 Meta 原始披露。后继 ESM3 增加结构与功能 token。

来源

  1. https://docs.nvidia.com/bionemo-framework/2.1/datasets/uniprot/ (2026-10-15)
  2. https://www.biorxiv.org/content/10.1101/2024.07.01.600583v1.full (2026-10-15)

卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。