37 TraitGym
非编码因果变异与匹配对照的二分类基准。复杂性状的正例来自统计 fine-mapping,因果性是概率性的,非实验证实。
bench-37 · 类型 B · 证据 L3 · 基因组/RNA · 补充收录 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | TraitGym |
| 家族 | 否(两个子集属同一数据集的配置,不构成家族。) |
| 领域 | 基因组/RNA |
| 类型 | B:B 静态数据集套件。固定变异集加公开榜单。 |
| 证据层级 | L3:对照精细匹配的回顾性评测,非盲测。 |
| 发布方 | University of California, Berkeley(学术实验室) |
| 首次发布 | (依据:bioRxiv 预印本 v1(10.1101/2025.02.11.637758);HF 数据集与榜单的创建日不作首发证据) |
| 其他里程碑 | 预印本 v1 (bioRxiv 预印本 v1);代码发布 (GitHub 标签 0.1(提交日)) |
| 最近更新 | †(未核实),仅维护:代码标签 0.1;此后主分支仅 CI 提交(2026-01-19),另有未合入的修订分支;论文 v2 在 2025-03-04。(未检出 release 对象,日期取标签提交日。)。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(作者未公告新版本;修订分支无公告日期。) |
| 规模 | 孟德尔集 338 个变异(113 性状);复杂性状集 1,140 个(83 性状);各配 9 个匹配对照。 明细:孟德尔因果变异(matched_9) 338;孟德尔对照(matched_9) 3,042;复杂性状变异(matched_9) 1,140;复杂性状对照(matched_9) 10,260;覆盖性状(Mendelian / complex) 113 / 83 |
| 状态 | ◐ 低频:榜单仍在线,但自 2025-03 无新条目;论文仍为预印本。 |
| wet lab 更新 | 静态:复用公开的 OMIM 与 UK Biobank fine-mapping 结果,不新增变异。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 3 个计入(改协议 1 · 赛后复用 2) |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:二分类:区分已知或强候选的非编码因果调控变异与按位置、后果等条件匹配的对照变异。
- 真值:孟德尔集来自 OMIM 的因果变异;复杂性状集来自统计 fine-mapping 的候选。
- 主指标:按染色体加权平均的 AUPRC。
- 次指标:自助法标准误。
- 版本陷阱:须标明子集(孟德尔或复杂性状)与配置(matched_9 或 all),以及是零样本还是线性探针,三者的名次不可互换。
当前排名
状态:▣ 榜单
- 指标:按染色体加权平均的 AUPRC(主指标),附标准误
- 评测集 / 口径:TraitGym Mendelian traits (matched_9) and complex traits (matched_9), zero-shot and linear-probing tracks
- 快照日期:†(未核实)(旧:早于截至日 12 个月以上)
- 榜单页面
当前第一:CADD,0.712 (se 0.038)(按染色体加权平均的 AUPRC(主指标),附标准误;TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks;榜单;†(未核实);旧)
本站最佳:Evo2 40B(第 5 名)
说明:榜单快照为 2025-03-07,此后无新模型;名次按子集与设定分片,不可跨片比较;数值用榜单自身的取舍位数。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| CADD(非本站模型) | 1 | 0.712 (se 0.038) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 非站内模型;孟德尔集零样本第 1。 | |
| Evo2 40B | 5 | 0.557 (se 0.051) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 孟德尔集零样本;7B 为 0.385(第 10),1B 为 0.254(第 13)。 | |
| Borzoi | 7 | 0.436 (se 0.052) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 孟德尔集零样本。 | |
| Enformer(非本站模型) | 1 | 0.303 (se 0.010) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 非站内模型页;复杂性状线性探针第 1,站内只有同名 benchmark 条目。 | |
| Borzoi | 2 | 0.297 (se 0.014) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 复杂性状线性探针;榜上站内模型的最好位次。 | |
| Evo2 40B | 9 | 0.153 (se 0.007) | 按染色体加权平均的 AUPRC(主指标),附标准误 | TraitGym Mendelian traits (matched_9) and Complex traits (matched_9), subset 'all', zero-shot and linear-probing tracks | 榜单 | 出处 | 复杂性状线性探针。 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。3 个计入(改协议 1 · 赛后复用 2)。
开发方自报,协议有改动(1)
- AlphaGenome:用了该 benchmark 的变异集,但报富集比例而非榜单指标,无可对照分数(自报,置信度中;出处)
赛后数据复用(2)
- Borzoi:TraitGym 作者事后评测 Borzoi(第三方,置信度中,未核实†;出处)
- Evo 2:由该 benchmark 作者按自己协议跑的评测,本模型论文未报告(第三方,置信度高;出处)
局限与注意
- 复杂性状的正例来自统计 fine-mapping,因果性是概率性的,非实验证实。
- 孟德尔集仅 338 个正例,性状分布不均,小差距不应读作排名。
- 非盲测:变异与对照均来自公开数据,可能落在模型训练语料内。
- 结论分层:基于比对的方法在孟德尔与复杂疾病性状占优,轨迹模型在复杂非疾病性状更好。
- 榜单自 2025-03 无新条目;AlphaGenome 不在榜上,其用法口径不同。
新模型怎么用
从 Hugging Face 取数据,按配套脚本打分。在孟德尔与复杂性状两个 matched_9 配置上分别报按染色体加权的 AUPRC 与标准误;与基于比对的方法同表,并报与集成基线的差距;按变异类别拆分,避免被某一类主导;写明是零样本还是线性探针。用了本集的变异不等于进了它的榜。要证明对新性状有效,需独立的功能验证或前瞻变异集。
搭配:Basenji/Enformer test set · ClinVar hold-out protocol · GUE + Nucleotide Transformer 基准 · BEND · CAGI
来源
- TraitGym 预印本(bioRxiv 10.1101/2025.02.11.637758)(预印本),
- TraitGym 预印本 v2(预印本),
- 官方仓库 songlab-cal/TraitGym(仓库)
- Hugging Face 数据集(包仓库)
- Hugging Face 榜单(榜单),
- AlphaGenome 论文(Nature 2026,PMC12851941)(期刊)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| latest_update | 2025-07-04 | 2025-03-25 | 只检出标签 0.1(提交日 2025-03-25),无 release 对象;HF 数据集与榜单的最后修改日分别为 2025-03-25 与 2025-03-07,原日期无出处。 | 依据 | 2026-11-16 |
| latest_update_kind | new-version | code-maintenance-only | 此后主分支只有 CI 提交,修订分支未合入,不构成新版本。 | 依据 | 2026-11-16 |
| status_note | leaderboard continuously running | leaderboard still online but no new entries since 2025-03 | 榜单空间最后修改为 2025-03-07,“持续运行”在站上读作仍在收新条目。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。