21 DREAM5 / BEELINE / CausalBench
基因调控网络推断的三代评测,分数主要反映金标准网络的质量。金标准只含已知边,预测中的假阳性可能是未知真边,分数主要反映真值质量。
bench-21 · 类型 A+B+C · 证据 L2 · 基因组/RNA · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | DREAM5 / BEELINE / CausalBench;全称:基因调控网络推断评测家族:DREAM5 网络推断挑战、BEELINE、CausalBench;别名:DREAM5、DREAM5 network inference challenge、BEELINE、Beeline、CausalBench;有歧义、不自动链接:DREAM、DREAM challenges |
| 家族 | 家族条目:DREAM5 network inference challenge †(未核实);DREAM5 results paper ;BEELINE ;CausalBench 。边界:三代不同口径:DREAM5 是 2010 年的盲测挑战,BEELINE 是单细胞评测框架,CausalBench 是 CRISPRi 扰动因果套件;分数不可跨成员比较。 |
| 领域 | 基因组/RNA(次领域:单细胞) |
| 类型 | A+B+C:A 周期盲测挑战,每届新题新真值;B 静态数据集套件;C 基础设施:检查器、切分工具或评测协议。已结束的盲测加评测框架与扰动套件 |
| 证据层级 | L2(范围 L2–L5):主体为回顾性比对;DREAM5 的一次实验检验达 L5 |
| 发布方 | DREAM Challenges、Virginia Tech、GSK.ai(多类机构联合) |
| 首次发布 | †(未核实)(依据:家族中最早成员:DREAM5 挑战年份(会议在当年 11 月,开赛月份无出处)) |
| 其他里程碑 | 预印本 v1 †(未核实)(BEELINE bioRxiv v1);期刊上线 (DREAM5 结果论文 Nature Methods 在线);开赛 / 首批题目 †(未核实)(DREAM5 挑战年份) |
| 最近更新 | †(未核实),论文修订:CausalBench 在 Communications Biology 正式发表(arXiv v1 为 2022-10-31,挑战赛 2023 年举办)。(本站笔记写 PMLR 版 2025-05,本轮只核到期刊版。)。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(三个成员均无新一轮或新版本公告。) |
| 规模 | DREAM5:4 个网络、35 种方法;BEELINE:12 个算法、400 多个模拟数据集;CausalBench:2 个 CRISPRi 数据集、20 万以上样本。 明细:网络数(DREAM5) 4;方法数(29 个参赛提交加 6 个现成工具)(DREAM5) 35;算法数(BEELINE) 12;模拟数据集(BEELINE) 400+;实验 scRNA-seq 数据集(BEELINE) 5;CRISPRi 数据集(K562、RPE1)(CausalBench) 2;干预样本(CausalBench) 200000+ {'zh': '个细胞', 'en': 'cells'} |
| 状态 | ◐ 低频:DREAM5 冻结;BEELINE 低频维护;CausalBench 挑战 2023 年结束 |
| wet lab 更新 | 静态:否:DREAM5 当年对 53 条新预测做过一次实验检验,23 条获支持;此后无新增。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 0 个计入;另 2 条不计入(未证实 2) |
| 当前排名 | ≠ 不可比(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:给定表达数据,推断转录因子到靶基因的有向调控边;无监督,无训练测试切分。
- 真值:已知网络或通路库:GeneNetWeaver 模拟网络、RegulonDB、ChIP 加基序,以及 STRING、CORUM 等互作库。
- 主指标:AUPR/AUROC 综合分(DREAM5)
- 次指标:AUPRC ratio 与 EPR(BEELINE);mean Wasserstein 与 false omission rate(CausalBench);对通路库的 precision/recall
- 版本陷阱:必须写明是哪一代、哪个数据集与哪个金标准库;BEELINE 数据公开可调参,DREAM5 为盲测,两者不可混比。
当前排名
状态:≠ 不可比
- 指标:DREAM5:AUPR/AUROC 综合分;BEELINE:AUPRC ratio 与 EPR
- 评测集 / 口径:DREAM5 network inference (frozen), BEELINE and CausalBench suites
- 快照日期:†(未核实)(旧:早于截至日 12 个月以上)
- 榜单页面
排名行不显示分数:3 个口径,无统一排名
说明:DREAM5 自 2012 年冻结且无本站模型参赛;BEELINE 与 CausalBench 无在线榜;基础模型的结果用的是自建划分,不构成可比排名。
不可比:下表按条目列出,不排名次。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| Community (consensus) network(非本站模型) | — | 不显示:口径不可比且数值未复核,不显示分数。†(未核实) | DREAM5:AUPR/AUROC 综合分;BEELINE:AUPRC ratio 与 EPR | DREAM5 network inference (frozen), BEELINE and CausalBench suites | 榜单 | 出处 | 非本站模型;把各方法的边排名平均得到的社区网络稳健优于任何单一方法;未复核数值,不给分数。 | |
| scGPT / Geneformer, attention-edge GRN inference | — | 不显示:来源未给数值,且为未经同行评审的预印本。†(未核实) | DREAM5:AUPR/AUROC 综合分;BEELINE:AUPRC ratio 与 EPR | DREAM5 network inference (frozen), BEELINE and CausalBench suites | 第三方 | 出处 | BEELINE 口径的第三方预印本:注意力边主要反映共表达,无数值分数。 | |
| scPRINT-2 | — | 不显示:协议不同且无可引数值。†(未核实) | DREAM5:AUPR/AUROC 综合分;BEELINE:AUPRC ratio 与 EPR | DREAM5 network inference (frozen), BEELINE and CausalBench suites | 自报 | 出处 | scPRINT-2 自报在自建 GRN 评测上有提升,非 DREAM5 或 BEELINE 协议,本轮未找到数值。 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。0 个计入;另 2 条不计入(未证实 2)。
未证实(2,不计数)
- scGPT / Geneformer:第三方注意力分析,仅据摘要,未证实(未知,置信度低,未核实†;出处)
- scPRINT-2:摘要称基因网络推断改进,仓库提到 benGRN 包,分数在预印本正文;是否按该 benchmark 协议未核实,不计入(未知,置信度中,未核实†;出处)
局限与注意
- 金标准只含已知边,预测中的假阳性可能是未知真边,分数主要反映真值质量。
- 多数方法只略优于随机;BEELINE 实验数据上 EPR 多数接近 1,无一超过 1.5。
- CausalBench 发现利用干预信息的方法并不优于只用观测数据的方法,与合成基准结论相反。
- 基础模型的预训练语料含这些公开数据与 ChIP 库,污染风险未被系统评估。
- 湿实验转化只有 DREAM5 的 53 条预测(23 条获支持),此后无新证据。
新模型怎么用
静态跑即可,不需自补湿实验:BEELINE 自带 Docker 与配置,跑一个整理好的数据集并对比 AUPRC ratio;必须同时报共表达或相关基线,并用 CausalBench 检验因果方法的可扩展性。要证明预测边是真实调控,需自补 CRISPRi 或 ChIP 抽检;不要只报 AUROC。
搭配:虚拟细胞挑战赛与扰动预测评测 · scIB (+Open Problems) · Basenji/Enformer test set
来源
- DREAM5 结果论文(Nature Methods)(期刊),
- DREAM5 挑战官方页(官方网站)
- BEELINE 全文(期刊)
- BEELINE 期刊版(期刊)
- CausalBench 论文(预印本),
- CausalBench 期刊版(期刊),†(未核实)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| first_release | 2012 | 2010 (the DREAM5 challenge year; 2012-07-15 is the results paper) | 站上把结果论文年份当作首发;首发应是挑战举办年,论文在线日单列为里程碑。 | 依据 | 2026-11-16 |
| latest_update | CausalBench PMLR paper, 2025-05 | 2025-03-11, CausalBench published in Communications Biology (kind: paper-revision) | 本轮只核到期刊版;PMLR 版日期未能复现,故改用可证事件并标未核实。 | 依据 | 2026-11-16 |
| family | three generations described in prose only | explicit family entry with four members and a boundary statement | 家族边界必须写明,避免跨成员比分数。 | 依据 | 2026-11-16 |
| models_reported | scPRINT-2 counted as reporting this family | disputed-or-unconfirmed: its own GRN benchmark, not the DREAM5/BEELINE protocol | 该模型因此进入零配对名单;自建评测不算本家族配对。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。