11 ClinVar hold-out protocol
用临床标签库的留出变异区分致病与良性,各论文自定快照与子集。没有官方切分,预测器与标签相互污染,以本库训练者分数被高估。
bench-11 · 类型 B · 证据 L2 · 基因组/RNA · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | ClinVar hold-out protocol;全称:基于临床变异标签库的留出式评测协议;别名:ClinVar benchmark、ClinVar evaluation;有歧义、不自动链接:ClinVar |
| 家族 | 否(这是围绕一个数据库形成的评测惯例,没有成员关系明确的家族。) |
| 领域 | 基因组/RNA |
| 类型 | B:B 静态数据集套件。无官方切分的回顾性评测协议族 |
| 证据层级 | L2(范围 L2–L3):按基因或时间切分可到 L3;无盲测 |
| 发布方 | US National Center for Biotechnology Information(非营利研究机构) |
| 首次发布 | †(未核实)(依据:数据库的正式完整公开发布(官方手册);2012-11 的原型单列,不作首发;四月的具体日期无出处。) 仅月份有据;评测协议本身无发布日 |
| 其他里程碑 | 最早公开证据 †(未核实)(原型版本的公开记录);官方公告 †(未核实)(官方手册记载的完整公开发布) |
| 最近更新 | ,数据发布:按周发布的变异文件与按月发布的完整记录各更新一次;评测协议本身没有更新。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(发布节奏是观察到的,组织方未公告具体日期。) |
| 规模 | 无统一版本:各论文自建子集,规模从约一万到十余万变异不等。 明细:自建测试变异数(某错义模型)(2023) 18924;自建错义变异数(某蛋白语言模型) 约 15 万;库内记录数(2026-11-16 查询)(2026-11-16) 4713415;其中标注为致病的记录数(2026-11-16) 266706 |
| 状态 | ● 活跃:数据库月更;评测协议无维护方 |
| wet lab 更新 | 累积:不做新实验;月度新增的是临床提交,不是新测量。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 5 个计入(改协议 5) |
| 当前排名 | ≠ 不可比(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:二分类:在留出变异上区分致病与良性,主要是错义,也扩展到非编码与剪接。
- 真值:临床实验室与研究者提交的分类,带评审星级,不是实验测量。
- 主指标:auROC
- 次指标:auPRC 与基因内平均 auROC;校准后的计算证据强度
- 版本陷阱:必须写明快照日期、星级门槛、变异类别与负样本来源;换一套负样本,各方法分数都会变。
当前排名
状态:≠ 不可比
- 指标:auROC 或 auPRC(依论文而异)
- 评测集 / 口径:Each paper builds its own ClinVar subset/snapshot
排名行不显示分数:5 个口径,无统一排名
说明:这是数据库而非榜单:每篇论文自选快照、过滤与变异类别,用本库训练的预测器还有循环风险,无法跨模型排名。
不可比:下表按条目列出,不排名次。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| AlphaMissense | — | 不显示:口径不可比:快照与子集不同,排名行不显示分数。†(未核实) | auROC 或 auPRC(依论文而异) | Each paper builds its own ClinVar subset/snapshot | 自报(二手) | 出处 | 自建错义测试集;数值只经二手报道佐证,且以本库训练者有高估风险 | |
| AlphaGenome | — | 不显示:口径不可比:快照与子集不同,排名行不显示分数。†(未核实) | auROC 或 auPRC(依论文而异) | Each paper builds its own ClinVar subset/snapshot | 自报(二手) | 出处 | 剪接相关子集的自报,取自站内既有注记,未复核 | |
| Evo 2 | — | 不显示:口径不可比:快照与子集不同,排名行不显示分数。†(未核实) | auROC 或 auPRC(依论文而异) | Each paper builds its own ClinVar subset/snapshot | 自报(二手) | 出处 | 自建子集的图示结果,无可引数值;各变异类别上强弱不一 | |
| popEVE | — | 不显示:口径不可比:快照与子集不同,排名行不显示分数。 | auROC 或 auPRC(依论文而异) | Each paper builds its own ClinVar subset/snapshot | 自报(二手) | 出处 | 基因内 AUROC,仅见图表未转录;取自站内既有注记 | |
| BioReason (Evo2+Qwen3-4B) | — | 不显示:口径不可比:快照与子集不同,排名行不显示分数。 | auROC 或 auPRC(依论文而异) | Each paper builds its own ClinVar subset/snapshot | 自报(二手) | 出处 | 自建的派生切分;取自站内既有注记,未复核 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。5 个计入(改协议 5)。
开发方自报,协议有改动(5)
- AlphaGenome:开发方自建的变异效应套件,只覆盖剪接相关类别(自报,置信度中;出处)
- AlphaMissense:自建的临床变异留出测试集(非官方划分),另报基因级汇总;口径为开发方自定(自报,置信度高;出处)
- BioReason:开发方自报,任务为自建 KEGG 变异任务,非 ClinVar 留出协议(自报,置信度高;出处)
- Evo 2:开发方自划的编码与非编码子集,数值只在图中;正文结论为名次性描述(自报,置信度中;出处)
- popEVE:专家整理的 2019 与 2020 子集(每基因至少 5 良性 + 5 致病),指标 AUC;逐模型值只在扩展数据图(自报,置信度高;出处)
局限与注意
- 没有官方切分,预测器与标签相互污染,以本库训练者分数被高估。
- 编码区错义的汇总 auROC 已在 0.9 以上,0.01–0.03 的差距没有区分意义。
- 基因分布严重偏斜,少数高频检测基因占据大部分变异。
- 真值是提交的临床判读而非实验测量,不同提交者之间存在分类冲突。
- 高 auROC 不等于临床可用;临床端需要校准后的证据强度。
新模型怎么用
取一个明确日期的数据库快照,按星级与变异类别筛出留出集打分即可,不需自补湿实验。报告须写明快照日期、星级门槛、负样本来源与基因分布,并说明模型是否见过本库标签;要支持泛化结论,应改用时间切分或按基因留出,并同报校准后的证据强度。可搭配 ProteinGym 与 CAGI。
搭配:ProteinGym · CAGI · TraitGym · Basenji/Enformer test set
来源
- 数据库官方站(官方网站)
- 官方手册中的数据库章节(官方网站)
- 官方发布目录(仓库)
- 评审星级说明(官方网站)
- 数据库早期描述论文(期刊)
- 以自建子集报告本协议的模型论文(期刊)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| first_release_basis | ClinVar NAR database paper online (public launch reportedly Apr 2013, not verified) | official full public release of ClinVar, April 2013 (NCBI Handbook); Nov 2012 prototype stored separately, not displayed as first release; exact April day not sourced. | 复核确认 2013 年 4 月为完整公开发布,并要求把原型单独列出而非合并。 | 依据 | 2026-11-16 |
| first_release | 2013-11-14 | 2013-04 (official launch; prototype Nov 2012) | 原记录的日期是期刊论文的在线日,不是数据库发布日。 | 依据 | 2026-11-16 |
| ranking.entries | per-model scores shown in the ranking row | scores withheld; each entry keeps its protocol description only | 显示规则:口径不可比的条目不展示分数,逐协议数值只留在实体页。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。