数据泄漏(训练-测试泄漏)
概念与方法基准
基准分数被高估的首要原因:测试样本与训练集近重复
定义
测试集样本在序列、结构、配体、口袋或标签上与训练集近重复,使成绩反映记忆而非泛化。
代表实例
- 审计 22 项 Therapeutics Data Commons 加 9 项 MoleculeNet 在内的 51 个基准配置,多数存在冲突标签与泄漏 [1]。
- PDBbind / PDBbind+ 与 CASF-2016 重叠严重:GEMS 去掉蛋白或配体信息后部分模型表现相当;CASF-2016 共 285 复合物,其中 161 个不在 LP-PDBbind 训练集 [2][3]。
- Runs N' Poses:共折叠模型性能随与训练集相似度下降 [4]。
- 二手称 DiffDock 在 PDBbind 新颖复合物上成功率下降约 40 个百分点(待复核)⚠️。
审计与对策
按相似度聚类切分(PLINDER)、ECOD 域聚类(DockGen)、时间切分加相似度分层(Runs N' Poses)、去除蛋白或配体输入的消融(GEMS);前瞻盲测(CASP)和私留题(LAB-Bench 的 20%)从机制上避免泄漏。
局限
相似度阈值与度量的选择本身左右结论;时间切分不保证相似度隔离;预训练语料不透明时,LLM 类基准的污染难以证伪。
来源
- https://www.chemistryworld.com/news/benchmark-flaws-may-be-distorting-ai-drug-discovery-leaderboards/4024084.article (2026-10-15)
- https://www.biorxiv.org/content/10.1101/2024.12.09.627482.full.pdf (2026-10-15)
- https://arxiv.org/pdf/2606.03422 (2026-10-15)
- https://www.biorxiv.org/content/10.1101/2025.02.03.636309.full.pdf (2026-10-15)
相关卡片
DockGen数据集 · 美国
按 ECOD 域切分的分子对接泛化基准
LAB-Bench数据集 · 美国
FutureHouse 生物研究能力基准:2,457 题、8 类 30 子任务
MoleculeNet数据集 · 美国
分子机器学习基准:论文口径 17 个数据集、70 万+ 化合物
PDBbind / PDBbind+数据集 · 中国
蛋白-配体复合物亲和力基准,因泄漏争议与订阅许可受限
PLINDER数据集 · 欧洲
44.9 万蛋白-配体体系及基于相似度的防泄漏切分
PoseBusters数据集 · 英国
物理合理性检查包加 428/308 复合物对接基准
Runs N' Poses数据集 · 欧洲
约 2,600 个训练截止后体系,量化共折叠模型的记忆效应
Therapeutics Data Commons数据集 · 美国
药物发现 ML 数据集与排行榜集合:66 数据集 / 22 任务
卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。