24 虚拟细胞挑战赛与扰动预测评测
唯一为评测专门生成 Perturb-seq 数据的挑战,但线性与均值基线仍难被打败。2025 届指标可被尺度与变换投机:第三方分析显示 ℓ1/ℓ2 版 PDS 对预测尺度敏感,MAE 几乎所有提交都差于基线。
bench-24 · 类型 A+B+C · 证据 L4 · 单细胞 · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | 虚拟细胞挑战赛与扰动预测评测;全称:Virtual Cell Challenge(VCC)与 PerturBench 等单细胞扰动预测评测;别名:Virtual Cell Challenge、VCC、VCC 2025、VCC 2026、PerturBench、cell-eval;有歧义、不自动链接:Norman、Replogle、Adamson |
| 家族 | 家族条目:PerturBench ;Virtual Cell Challenge 2025 ;Virtual Cell Challenge 2026 。边界:VCC 是年度盲测挑战,PerturBench 与 Norman/Replogle/Adamson 套件是静态评测,cell-eval 只是评测工具;首发日取最早成员 PerturBench,不等于 VCC 的启动日。 |
| 领域 | 单细胞(次领域:基因组/RNA) |
| 类型 | A+B+C:A 周期盲测挑战,每届新题新真值;B 静态数据集套件;C 基础设施:检查器、切分工具或评测协议。盲测挑战加静态扰动套件与评测工具 |
| 证据层级 | L4(范围 L2–L4):VCC 为隐藏测试集盲测;静态部分与基线批评为 L2–L3 |
| 发布方 | Arc Institute、Altos Labs(非营利研究机构) |
| 首次发布 | (依据:家族中最早成员:PerturBench 的 arXiv v1(VCC 本身 2025-06-26 启动)) |
| 其他里程碑 | 预印本 v1 (PerturBench arXiv 2408.10609 v1);开赛 / 首批题目 (VCC 2025 启动,数据与排行榜开放);官方公告 (VCC 2026 公告,报名开放) |
| 最近更新 | †(未核实),新一轮:VCC 2026 终测集发放,终提交 2026-11-05 截止;截至 2026-11-16 结果未公布。(该日期未能对应到带日期的官方段落,按未核实显示。)。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | †(未核实)(组织方赛程称 2026 届结果在 11 月中下旬公布(另有新闻稿写 12 月)) |
| 规模 | VCC 2025:约 30 万细胞、300 个扰动、300 多支终提交队;VCC 2026:六个细胞系,细胞数未公布。 明细:细胞数(H1 hESC)(VCC 2025) ~300000 {'zh': '个细胞', 'en': 'cells'};CRISPRi 扰动数(VCC 2025) 300;注册人数(VCC 2025) 5000+ {'zh': '人', 'en': 'people'};终提交队数(VCC 2025) 300+;细胞系(3 验证、3 终测,未复核)(VCC 2026) 6;细胞数(VCC 2026) None |
| 状态 | ● 活跃:活跃:VCC 2026 已截止,结果尚未公布 |
| wet lab 更新 | 新:是,年度:组织方自行做 Perturb-seq;2025 届约 30 万细胞,2026 届细胞数未公布。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 9 个计入(榜 1 · 改协议 6 · 赛后复用 2) |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:预测某基因被敲低后细胞转录组的变化,含未见扰动外推与未见细胞背景(2026 届为零样本)。
- 真值:组织方新做的 CRISPRi Perturb-seq 测量;静态套件用已发表的 Norman、Replogle、Adamson 数据。
- 主指标:2025:PDS、DES、MAE 的聚合名次
- 次指标:Generalist Prize:7 项指标平均名次;2026:cell-eval 新版六指标聚合;Pearson delta 与 AUPRC
- 版本陷阱:2025 届全集已公开,不再是盲测;两届指标体系不同,PDS 的 ℓ1/ℓ2 版本对预测尺度敏感,跨届名次不可比。
当前排名
状态:▣ 榜单
- 指标:VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次
- 评测集 / 口径:Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations)
- 快照日期:
- 榜单页面
当前第一:Team BM_xTVC, xTrimoSCPerturb (improved scFoundation architecture with protein-model embeddings),rank 1 of 300+ final-round teams (board publishes ranks only, no numeric scores)(VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次;Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations);榜单;)
说明:2026 届(零样本、六细胞系)已于 2026-11-05 截止但截至 2026-11-16 未公布名次,当前名次仍是 2025 届;该榜只公布名次,从不公布数值。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| Team BM_xTVC, xTrimoSCPerturb (improved scFoundation architecture with protein-model embeddings) | 1 | rank 1 of 300+ final-round teams (board publishes ranks only, no numeric scores) | VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 | Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) | 榜单 | 出处 | 总冠军;组织方总结页只公布名次与奖项,任何队伍都没有数值分数。 | |
| Team XLearning Lab (fully connected network, ESM-2 embeddings, residual delta prediction)(非本站模型) | 2 | 不显示:出处不全 | VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 | Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) | 榜单 | 出处 | 非本站模型;无公布数值。 | |
| Team Outlier, TransPert (summary-level statistical framework)(非本站模型) | 3 | 不显示:出处不全 | VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 | Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) | 榜单 | 出处 | 非本站模型;无公布数值。 | |
| Team Altos Labs, go-with-the-flow (flow matching with a custom U-Net), Generalist Prize(非本站模型) | — | 不显示:出处不全 | VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 | Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) | 榜单 | 出处 | 非本站模型;该奖按前 50 名终提交中 7 项指标的平均名次评选,无数值。 | |
| STATE | — | 不显示:口径不同且非榜单,不作排名显示。†(未核实) | VCC 2025 终榜名次(PDS、DES、MAE 聚合);Generalist Prize 为 7 项指标的平均名次 | Virtual Cell Challenge 2025 final test set (H1 hESC, held-out CRISPRi perturbations) | 自报 | 出处 | 不是参赛条目:组织方用其论文的四项指标定义 Generalist Prize;其自报的 Tahoe-100M 结果口径不同,不是榜单成绩。 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。9 个计入(榜 1 · 改协议 6 · 赛后复用 2)。
官方参赛 / 官方榜单(1)
- xTrimoSCPerturb / scFoundation:赛事方官方总结列为 VCC 2025 总排名第 1;各项指标数值未公开。另有独立研究把 scFoundation 与简单线性基线对比,结论不利(榜单,置信度高;出处)
开发方自报,协议有改动(6)
- C2S-Scale:扰动预测用自选数据集与自建指标,对比三个同类方法,不是该评测的官方赛道(自报,置信度高;出处)
- CellFM:用两套早期公开扰动数据并统一接同一个下游预测器,不是该挑战赛的盲测;领先以相对提升百分比表述(自报,置信度高;出处)
- Stack:开发方自划的扰动集,对手是各评测集上从零训练的两个传统方法与若干基础模型;发布页与预印本均无可引用数值。挑战赛主张在发布页上并不存在(自报,置信度高;出处)
- STATE:在第三方扰动语料上用开发方自建指标评测;挑战赛的盲测得分未公布,是否按盲测协议评过无公开材料可证,该部分按未证实处理(自报,置信度高,未核实†;出处)
- Tahoe-x1:留出细胞背景的扰动响应预测,开发方自建口径并明确不是挑战赛;摘要与模型卡均未给数值(自报,置信度高;出处)
- X-Cell:自建的留出 iPSC 扰动集,不是该挑战赛的盲测;项目页称比次优方法高数倍但未写明对手名称,预印本摘要的口径是「最多」若干倍(自报,置信度高;出处)
赛后数据复用(2)
- Lingshu-Cell(灵枢·细胞):作者在 VCC H1 公开榜单数据上赛后补评,论文附录自述为事后评估并与参赛条目分开,不是比赛提交,不能记为榜单第一(自报,置信度高;出处)
- scGPT / Geneformer:独立研究事后在公开扰动数据上评测(第三方,置信度高;出处)
局限与注意
- 2025 届指标可被尺度与变换投机:第三方分析显示 ℓ1/ℓ2 版 PDS 对预测尺度敏感,MAE 几乎所有提交都差于基线。
- 多项独立评测显示深度与基础模型在扰动预测上并不稳定胜过 mean、no-change 或线性基线。
- 榜单只给名次不给数值,300 个扰动下官方未说明名次差是否超出噪声。
- 2025 届为单一细胞系,跨细胞泛化未被测到;全集现已公开,不再是盲测集。
- 外部预训练与公开 Perturb-seq 可能与测试靶点重叠;无前瞻湿实验验证,也无分数到靶点发现命中率的证据。
新模型怎么用
2025 届数据已公开可静态跑,真盲测只能参加下一届。必须同时报 mean、no-change 与线性基线,并用多指标(cosine 版 PDS、Pearson delta、AUPRC)加 PerturBench 的名次与 RMSD,不要只看单一 PDS。要知道对自家细胞系的泛化需自补 Perturb-seq,成本未公开。
搭配:DREAM5 / BEELINE / CausalBench · scIB (+Open Problems) · Basenji/Enformer test set
来源
- VCC 2025 组织方总结页(官方网站),
- VCC 2026 公告(官方网站),
- PerturBench 论文(预印本),
- 深度模型与线性基线对比(第三方)(第三方论文)
- PDS 指标的第三方分析(第三方论文)
- PertEval-scFM(论文)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| first_release | 2025 (VCC launch treated as the family's first release) | 2024-08-20, PerturBench arXiv v1, with the VCC 2025 launch (2025-06-26) kept as a member | 家族条目的首发取最早成员,且必须写明边界,避免把 PerturBench 的日期读作 VCC 启动日。 | 依据 | 2026-11-16 |
| scale | 2026 edition: six cell lines, zero-shot, cell counts implied | 2025 figures verified; the 2026 cell count is unpublished and 'six cell lines' was not re-confirmed | 组织方公告未给 2026 届细胞数,六细胞系一说本轮未复核,不得给确定值。 | 依据 | 2026-11-16 |
| latest_update | VCC 2026 in progress, without a dated event | 2026-10-22 final test set released; submissions closed 2026-11-05; winners unannounced as of 2026-11-16 (flagged unverified) | 该事件无法对应到带日期的官方段落,因此标未核实;不得写成结果已公布。 | 依据 | 2026-11-16 |
| models_reported | STATE, Stack, X-Cell and others listed as VCC results | self-reported-modified-protocol: own datasets and metrics, not the VCC board | 自建口径不等于 VCC 榜单成绩;Tahoe-100M 的扰动数另统一为 1,100(新闻稿的约 1,200 不采用)。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。