06 CASF-2016
蛋白-配体打分函数的十年默认口径,拆为打分、排序、对接、筛选四项能力;数据冻结且与训练集高度重叠。测试集与 PDBbind 训练集高度重叠:不训练的相似度检索基线即可接近早期深度模型;对接能力已饱和,筛选负样本为未实测的交叉配对
bench-06 · 类型 B · 证据 L2 · 小分子 · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | CASF-2016;全称:打分函数比较评估 2016 版;别名:CASF-2013、CASF-2007、CASF-07、Comparative Assessment of Scoring Functions;有歧义、不自动链接:CASF、PDBbind core set |
| 家族 | 否(CASF-2007/2013/2016 是同一评测的先后版本,记为里程碑,不作家族。) |
| 领域 | 小分子 |
| 类型 | B:B 静态数据集套件。静态数据集套件,带官方评测脚本 |
| 证据层级 | L2:回顾性,非盲测;训练-测试重叠严重 |
| 发布方 | Shanghai Institute of Organic Chemistry, CAS (PDBbind-CN team)(学术实验室) |
| 首次发布 | (依据:CASF-2007 论文 JCIM 在线日;该基准以'CASF-2007'命名,但首次发表在 2009 年) 2007 是版本标签,不是首发日 |
| 其他里程碑 | 期刊上线 (CASF-2007 论文 JCIM 在线);官方公告 (CASF-2016 更新论文 JCIM 在线(当前版本)) |
| 最近更新 | ;未检出发布后更新(截至 2026-11-16):CASF-2016 更新论文在 JCIM 在线发表;此后未检出新的 CASF 版本。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(发布方未宣布 CASF-2016 之后的版本。) |
| 规模 | 285 个复合物(57 个靶点簇 × 5 个配体),每个复合物约 100 个对接 decoy 明细:复合物(CASF-2016) 285;靶点簇(CASF-2016) 57;每簇配体(CASF-2016) 5;每复合物对接 decoy(CASF-2016) ~100 |
| 状态 | ○ 冻结:2016 版起冻结;正被去泄漏切分取代 |
| wet lab 更新 | 静态:不新增实验;复用 PDBbind 晶体结构与文献 Kd/Ki |
| 需自补 wet lab | 断言真实泛化时需要 |
| 报告模型数 | 0 个计入 |
| 当前排名 | ≠ 不可比(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:在 PDBbind core set 上评测打分函数的打分、排序、对接与筛选四项能力
- 真值:PDBbind 晶体结构加文献 Kd/Ki,跨实验室与 assay 混合;筛选负样本为假设
- 主指标:打分能力:Pearson R、RMSE
- 次指标:排序能力:簇内 Spearman ρ;对接能力:top-1 成功率(RMSD<2Å);筛选能力:EF1%、成功率
- 版本陷阱:只规定测试集,不规定训练集版本;须写明 PDBbind 版本与是否用 CleanSplit/LP-PDBBind,CASF-2013 与 2016 不可混报
当前排名
状态:≠ 不可比
- 指标:打分能力 Pearson R / RMSE
- 评测集 / 口径:CASF-2016 core set (285)
- 快照日期:(旧:早于截至日 12 个月以上)
排名行不显示分数:4 个口径,无统一排名
说明:无本站模型报 CASF-2016;无官方榜单;约 49% 测试复合物有相似训练对,分数更取决于训练划分;早期高分出自泄漏划分,未复核
不可比:下表按条目列出,不排名次。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| GEMS (trained on PDBbind CleanSplit)(非本站模型) | — | 不显示:不可比:各论文协议与子集不同,排名行不显示分数;逐协议数值留在实体页。 | 打分能力 Pearson R / RMSE | CASF-2016 core set (285) | 自报 | 出处 | 非本站模型;作者自报,用 CleanSplit 训练 | |
| GenScore (CleanSplit retrain)(非本站模型) | — | 不显示:不可比:各论文协议与子集不同,排名行不显示分数;逐协议数值留在实体页。 | 打分能力 Pearson R / RMSE | CASF-2016 core set (285) | 第三方 | 出处 | 非本站模型;去泄漏评估中用 CleanSplit 重训 | |
| Pafnucy (CleanSplit retrain)(非本站模型) | — | 不显示:不可比:各论文协议与子集不同,排名行不显示分数;逐协议数值留在实体页。 | 打分能力 Pearson R / RMSE | CASF-2016 core set (285) | 第三方 | 出处 | 非本站模型;去泄漏评估中用 CleanSplit 重训 | |
| 5-nearest-neighbour search baseline (no training)(非本站模型) | — | 不显示:不可比:各论文协议与子集不同,排名行不显示分数;逐协议数值留在实体页。 | 打分能力 Pearson R / RMSE | CASF-2016 core set (285) | 第三方 | 出处 | 非模型:取最相似训练复合物均值的检索基线 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。0 个计入。
暂无模型与本 benchmark 构成配对。
局限与注意
- 测试集与 PDBbind 训练集高度重叠:不训练的相似度检索基线即可接近早期深度模型;对接能力已饱和,筛选负样本为未实测的交叉配对
- 2025 年去泄漏研究称约 49% 的测试复合物在训练集中有相似对;去泄漏后多数模型掉分
- 排序能力只有 57 组 5 配体、筛选池仅 285 个配体,统计噪声大;无官方置信区间,不查姿态物理有效性
- Boltz-2 官方评测文档未列 CASF;本轮未检出近一年 AI 模型在其上报分
- PDBbind 数据已设授权门槛,具体条款未从官方页面核实
新模型怎么用
在 PDBbind 官方站注册下载 CASF-2016 包,用官方脚本跑四项能力,无需湿实验,结论属回顾性。训练用 CleanSplit 或 LP-PDBBind,同报相似度检索基线与时间外集,写明训练集版本;新靶点泛化须换外部集或自补数据。可搭配 PoseBusters、PLINDER、DUD-E 与 CACHE。
搭配:PoseBusters · PLINDER / PINDER / Runs N' Poses · DUD-E / LIT-PCBA · CACHE
来源
- CASF-2016 论文(JCIM 2019)(期刊)
- CASF-2007 论文(JCIM 2009)(期刊)
- CASF-2013 论文(JCIM 2014)(期刊)
- PDBbind/CASF 使用协议(Nature Protocols 2018)(期刊)
- PDBbind CleanSplit 去泄漏研究(Nat Mach Intell 2025)(第三方论文)
- LP-PDBBind 重划分(arXiv 2308.09639)(第三方论文)
- Boltz 官方评测说明(仓库)
- PDBbind 授权相关讨论(arXiv 2411.01223)(第三方论文)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| first_release | 2007 (start year) | 2009-04-09 | '2007' 是版本标签;首次发表为 2009-04-09 的 JCIM 论文(变更集 §0.7)。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。