ESM-2 / ESMFold
UniRef50 约 6,500 万簇训练的蛋白语言模型,ESMFold 用 AF2 蒸馏
- 数据类型
- 蛋白序列
模型与发布
Meta FAIR 2022–2023 发布的蛋白语言模型 ESM-2 及其折叠头 ESMFold;2025 年后 Biohub 推出 ESMFold2 与 ESMFold2-Fast,被 Anthropic 管线当作排序器,见 Anthropic 蛋白 binder 实验(ESMFold2 训练数据未查到)。
训练数据配方
- 公共库:UniProt 的 UniRef50 约 6,500 万簇;每步在簇内均匀抽样,再取一条 UniRef90 序列。NVIDIA 复现口径为 65,182,365 个训练簇、187,382,018 条 UniRef90 序列(二手)[1]。
- 蒸馏合成:ESMFold 的结构监督含 AF2 预测蒸馏,约 1,200 万 ⚠️ 未回源(见 AlphaFold DB 与结构蒸馏)。
- 私有真值:无。
数据供应方与许可
UniProt。
已知问题与口径冲突
簇数为第三方复现口径,非 Meta 原始披露。后继 ESM3 增加结构与功能 token。
来源
相关卡片
卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。