数据泄漏(训练-测试泄漏)

概念与方法基准

基准分数被高估的首要原因:测试样本与训练集近重复

定义

测试集样本在序列、结构、配体、口袋或标签上与训练集近重复,使成绩反映记忆而非泛化。

代表实例

  • 审计 22 项 Therapeutics Data Commons 加 9 项 MoleculeNet 在内的 51 个基准配置,多数存在冲突标签与泄漏 [1]。
  • PDBbind / PDBbind+ 与 CASF-2016 重叠严重:GEMS 去掉蛋白或配体信息后部分模型表现相当;CASF-2016 共 285 复合物,其中 161 个不在 LP-PDBbind 训练集 [2][3]。
  • Runs N' Poses:共折叠模型性能随与训练集相似度下降 [4]。
  • 二手称 DiffDock 在 PDBbind 新颖复合物上成功率下降约 40 个百分点(待复核)⚠️。

审计与对策

按相似度聚类切分(PLINDER)、ECOD 域聚类(DockGen)、时间切分加相似度分层(Runs N' Poses)、去除蛋白或配体输入的消融(GEMS);前瞻盲测(CASP)和私留题(LAB-Bench 的 20%)从机制上避免泄漏。

局限

相似度阈值与度量的选择本身左右结论;时间切分不保证相似度隔离;预训练语料不透明时,LLM 类基准的污染难以证伪。

来源

  1. https://www.chemistryworld.com/news/benchmark-flaws-may-be-distorting-ai-drug-discovery-leaderboards/4024084.article (2026-10-15)
  2. https://www.biorxiv.org/content/10.1101/2024.12.09.627482.full.pdf (2026-10-15)
  3. https://arxiv.org/pdf/2606.03422 (2026-10-15)
  4. https://www.biorxiv.org/content/10.1101/2025.02.03.636309.full.pdf (2026-10-15)

卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。