34 AbBiBench
以抗体-抗原复合物为单位的零样本打分相关性评测,补上抗体功能评测空白。相关性偏低(榜首方法 16 个 assay 平均约 0.29),逐 assay 分列,不可混合不同量纲。
bench-34 · 类型 B · 证据 L2 · 抗体 · 补充收录 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | AbBiBench;全称:AbBiBench:抗体-抗原结合基准;别名:Antibody Binding Benchmark Dataset |
| 家族 | 否(单一数据集与一个维护方榜单,无家族成员。) |
| 领域 | 抗体 |
| 类型 | B:B 静态数据集套件。固定集加零样本相关性榜单 |
| 证据层级 | L2(范围 L2–L3):回顾性公开测量,零样本评测 |
| 发布方 | Academic biomedical informatics group (repository MSBMI-SAFE)(学术实验室) |
| 首次发布 | (依据:arXiv 2506.04235 v1(2025-05-23);HF 数据集与仓库创建日不作首发) |
| 其他里程碑 | 最早公开证据 †(未核实)(论文 v1 为最早可证公开证据);预印本 v1 (arXiv 2506.04235 v1) |
| 最近更新 | ,论文修订:论文修订至 arXiv v3;仓库公开榜单于 2026-10-19 与论文评测对齐。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(维护方未公告新版本或新一轮评测。) |
| 规模 | 216,560 条测量、13 个抗体、9 个抗原(v3 摘要);HF 副本约 215,699 行。 明细:实验测量条数(arXiv v3) 216,560 measurements;抗体 / 抗原(arXiv v3) 13 / 9;assay 数(board) 16 assays;基础方法 / 实现(board) 20 / 23;HF 数据集行数(Hugging Face copy) ~215,699 rows;设计验证候选数(arXiv v3) 21 candidates |
| 状态 | ● 活跃:活跃;仓库榜单为论文对应快照 |
| wet lab 更新 | 静态:复用已发表的结合测量;新实验仅一次 21 个候选的反应性测试。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 6 个计入(榜 6) |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:模型在抗体-抗原复合物上的零样本打分与实测结合的相关性,另有一次小规模设计验证。
- 真值:已发表的结合测量,按 assay 分列,不同量纲不混合。
- 主指标:各 assay 的打分与实测相关系数
- 次指标:16 个 assay 的近似平均相关;设计候选的反应性信号
- 版本陷阱:候选清单流传的旧版规模口径已被 v3 取代;榜单表头与页面说明的统计量写法不一致,以页面说明为准。
当前排名
状态:▣ 榜单
- 指标:各 assay 分别评测的近似平均相关(页面说明为两位小数的 Spearman 相关,取自论文图)
- 评测集 / 口径:AbBiBench manuscript-matched snapshot, 20 base methods / 23 implementations across 16 assays
- 快照日期:†(未核实)
- 榜单页面
排名行不显示分数:榜单第一名条目未核实,排名行不显示分数
说明:榜单在仓库 README 中,自述为与论文一致的快照:数值抄自论文图而非官方重跑;部分运行脚本与逐变体结果尚未公开,平均值为近似值,四舍五入后可能并列。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| ProteinMPNN(非本站模型) | 1 | 不显示†(未核实) | 各 assay 分别评测的近似平均相关(页面说明为两位小数的 Spearman 相关,取自论文图) | AbBiBench manuscript-matched snapshot, 20 base methods / 23 implementations across 16 assays | 榜单 | 出处 | 非本站模型;总榜第一,属反折叠类方法。 | |
| Boltz-2 (ipSAE) | 4 | 不显示†(未核实) | 各 assay 分别评测的近似平均相关(页面说明为两位小数的 Spearman 相关,取自论文图) | AbBiBench manuscript-matched snapshot, 20 base methods / 23 implementations across 16 assays | 榜单 | 出处 | 结构预测类,本站模型中名次最高。 | |
| ESM-3 | 10 | 不显示†(未核实) | 各 assay 分别评测的近似平均相关(页面说明为两位小数的 Spearman 相关,取自论文图) | AbBiBench manuscript-matched snapshot, 20 base methods / 23 implementations across 16 assays | 榜单 | 出处 | 掩码语言模型类。 | |
| SaProt | 11 | 不显示†(未核实) | 各 assay 分别评测的近似平均相关(页面说明为两位小数的 Spearman 相关,取自论文图) | AbBiBench manuscript-matched snapshot, 20 base methods / 23 implementations across 16 assays | 榜单 | 出处 | 掩码语言模型类。 | |
| ESMFold2 (ipSAE) | 12 | 不显示†(未核实) | 各 assay 分别评测的近似平均相关(页面说明为两位小数的 Spearman 相关,取自论文图) | AbBiBench manuscript-matched snapshot, 20 base methods / 23 implementations across 16 assays | 榜单 | 出处 | 结构预测类。 | |
| ProSST | 16 | 不显示†(未核实) | 各 assay 分别评测的近似平均相关(页面说明为两位小数的 Spearman 相关,取自论文图) | AbBiBench manuscript-matched snapshot, 20 base methods / 23 implementations across 16 assays | 榜单 | 出处 | 掩码语言模型类。 | |
| AF3 (ipSAE) | 19 | 不显示†(未核实) | 各 assay 分别评测的近似平均相关(页面说明为两位小数的 Spearman 相关,取自论文图) | AbBiBench manuscript-matched snapshot, 20 base methods / 23 implementations across 16 assays | 榜单 | 出处 | 结构预测类。 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。6 个计入(榜 6)。
官方参赛 / 官方榜单(6)
- AlphaFold 3:依据只是本站自己的页面(未核实):该条目是从论文图读出的界面打分相关性,不是结构精度,也未重跑(榜单,置信度中,未核实†;—)
- Boltz-2:依据只是本站自己的页面(未核实):条目是界面打分,不是结构精度(榜单,置信度中,未核实†;—)
- ESM3:出处只是本站自己的页面,未打开原始文档,按未核实显示(榜单,置信度中,未核实†;—)
- ESMFold2:依据只是本站自己的页面(未核实 / unverified);且该类条目实为 benchmark 方登记的论文图相关性,不是提交或复跑(榜单,置信度中,未核实†;—)
- ProSST:该条配对的依据只是本站自己的页面,未打开一手材料(未核实)(榜单,置信度中,未核实†;—)
- SaProt:该条配对的依据只是本站自己的页面,未打开一手材料(未核实)(榜单,置信度中,未核实†;—)
局限与注意
- 相关性偏低(榜首方法 16 个 assay 平均约 0.29),逐 assay 分列,不可混合不同量纲。
- 设计验证仅 21 个候选,未报对照、重复数与阈值,只能说明有信号。
- 榜单数值抄自论文图,非官方重跑;部分脚本与逐变体结果未公开,复现受限。
- 论文称排序更适合优先挑选可能变好的变体,不适合排除弱变体。
- 数据为复用的已发表测量,组成受原研究选择影响,非统一测定。
新模型怎么用
按仓库脚本在公开复合物集上零样本打分,逐 assay 报相关而非混合平均;需写明方法类别、打分定义、是否做过抗体相关微调与所用结构来源。要断言可替代实验筛选,须自备前瞻测量。
搭配:AIntibody · FLAb / FLAb2 · FoldBench · Adaptyv competitions / BenchBB
来源
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| scale | about 184,500 measurements, 14 antibodies, 15 models | 216,560 measurements, 13 antibodies, 9 antigens (arXiv v3); 20 base methods / 23 implementations on the board | 旧版口径已被 v3 摘要取代。 | 依据 | 2026-11-16 |
| wetlab_note | one wet-lab round of 21 candidates described as affinity validation | the 216,560 values are reused published measurements and the only new experiment is a 21-candidate reactivity test, not an affinity measurement | 新实验测的是反应性信号,不是亲和力。 | 依据 | 2026-11-16 |
| models_reported | six entries labelled as board results | board values are correlations copied from a paper figure, so the entries are flagged unverified | 榜单数值取自论文图,未经官方重跑,标为未核实。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。