38 BEND
用人类基因组功能任务评测 DNA 语言模型的冻结表示。只覆盖人类基因组;冻结嵌入的结果不等于微调上限。
bench-38 · 类型 B · 证据 L2 · 基因组/RNA · 补充收录 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | BEND;全称:DNA 语言模型基准(Benchmarking DNA Language Models on Biologically Meaningful Tasks);别名:BEND 2.0;有歧义、不自动链接:bend |
| 家族 | 否(BEND 2.0 按同一 benchmark 的新版本处理,不另立家族成员。) |
| 领域 | 基因组/RNA |
| 类型 | B:B 静态数据集套件。固定数据集,冻结表示加轻量下游头。 |
| 证据层级 | L2:回顾性;变异效应任务为零样本,无盲测。 |
| 发布方 | Technical University of Denmark、University of Copenhagen(学术实验室) |
| 首次发布 | (依据:arXiv 2311.12570 v1) |
| 其他里程碑 | 预印本 v1 (arXiv 2311.12570 v1);官方公告 †(未核实)(ICLR 2024 会议论文(仅有年份可证)) |
| 最近更新 | ,新版本:BEND 2.0 预印本发布,改按 DNA 设计所需能力组织:8 个任务、5 个实验数据集;原版仓库最后提交 2024-10-31。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(作者未公告下一版本的时间。) |
| 规模 | 原版 7 个任务,样本 285 至 2,005,617,序列 512 至 100,096 bp;2.0 为 8 个任务、5 个实验数据集。 明细:任务数(BEND v4) 7;样本数范围(BEND v4) 285-2,005,617;序列长度范围(BEND v4) 512-100,096 bp;任务数(BEND 2.0) 8;实验数据集(BEND 2.0) 5 |
| 状态 | ● 活跃:2026-11-02 发布 2.0;原版与 2.0 口径不同,须分开引用。 |
| wet lab 更新 | 静态:复用已发表的基因组注释与功能基因组数据,不新增实验。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 0 个计入 |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:冻结预训练模型的嵌入,接轻量头做人类基因组功能任务:基因发现、增强子注释、染色质可及性、组蛋白修饰、甲基化与两类变异效应。
- 真值:已发表的基因组注释与功能基因组测量,变异效应任务用公开标注。
- 主指标:按任务不同:MCC、AUPRC 或 AUROC。
- 次指标:2.0 另用相关系数与设计任务指标。
- 版本陷阱:原版与 2.0 的任务定义不同,数字不可混用;须写明嵌入分块长度、是否用官方头配置,以及是原生输出还是拟合读出。
当前排名
状态:▣ 榜单
- 指标:按任务分列的指标(无统一官方排名指标):如条件对数损失(bits/base,越低越好)、宏平均 Spearman 相关、top-1 组织识别准确率
- 评测集 / 口径:BEND 2.0 Table 1 snapshot: 8 endpoints across 5 capability categories, 17 model-interface rows
- 快照日期:
- 榜单页面
排名行不显示分数:榜单第一名条目未核实,排名行不显示分数
说明:数值属 BEND 2.0(2026-11 预印本),取自其站点数据文件的表 1 快照;无官方总分,名次仅就单个端点而言,原生与拟合读出分列。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| SpliceAI(非本站模型) | 1 | 不显示†(未核实) | 按任务分列的指标(无统一官方排名指标):如条件对数损失(bits/base,越低越好)、宏平均 Spearman 相关、top-1 组织识别准确率 | BEND 2.0 Table 1 snapshot: 8 endpoints across 5 capability categories, 17 model-interface rows | 榜单 | 出处 | 非站内模型;该端点第 1,为专用模型的原生输出。 | |
| AlphaGenome | 2 | 不显示†(未核实) | 按任务分列的指标(无统一官方排名指标):如条件对数损失(bits/base,越低越好)、宏平均 Spearman 相关、top-1 组织识别准确率 | BEND 2.0 Table 1 snapshot: 8 endpoints across 5 capability categories, 17 model-interface rows | 榜单 | 出处 | 该端点拟合读出第 2,原生输出 0.621;在 8 个端点中 5 个为第 1。 | |
| NTv3 650M post | 4 | 不显示†(未核实) | 按任务分列的指标(无统一官方排名指标):如条件对数损失(bits/base,越低越好)、宏平均 Spearman 相关、top-1 组织识别准确率 | BEND 2.0 Table 1 snapshot: 8 endpoints across 5 capability categories, 17 model-interface rows | 榜单 | 出处 | 该端点第 4;序列先验端点第 1(1.375 bits/base,越低越好)。 | |
| Evo2 20B | 9 | 不显示†(未核实) | 按任务分列的指标(无统一官方排名指标):如条件对数损失(bits/base,越低越好)、宏平均 Spearman 相关、top-1 组织识别准确率 | BEND 2.0 Table 1 snapshot: 8 endpoints across 5 capability categories, 17 model-interface rows | 榜单 | 出处 | 该端点第 9;先验损失 1.388 bits/base(第 3);设计类端点垫底。 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。0 个计入。
暂无模型与本 benchmark 构成配对。
局限与注意
- 只覆盖人类基因组;冻结嵌入的结果不等于微调上限。
- 增强子任务样本少且稀疏,所有模型都很差;论文正文与表格在组蛋白修饰上有出入。
- 原版基线以 2023 年前后模型为主,较新的 DNA 模型未在原榜中。
- 两版口径不同:2.0 改按设计能力组织,不能与原版数字并列。
- 2.0 榜上的站内模型尚未登记为配对关系,关系类型待下一轮核定。
新模型怎么用
从官方仓库取数据与配置,按任务提取冻结嵌入再训小头,计算量远低于微调。写明嵌入分块长度与是否用官方头配置;比较时同时给平均秩与分任务数值,不要只报单个任务;原版与 2.0 分开写,不混用两版数字;零样本变异任务可与 TraitGym 配套报告。
搭配:GUE + Nucleotide Transformer 基准 · Basenji/Enformer test set · TraitGym · ClinVar hold-out protocol
来源
- BEND 论文(arXiv 2311.12570 v1)(预印本),
- BEND 论文全文 v4(预印本),
- ICLR 2024 会议论文页(论文)
- 官方仓库 frederikkemarin/BEND(仓库)
- BEND 2.0 预印本(arXiv 2611.03806)(预印本),
- BEND 2.0 榜单页(榜单),
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| ranking.eval_set | original BEND standing | BEND 2.0 Table 1 snapshot (2026-10-22), per endpoint | 原版无在线榜单,现有名次全部来自 2.0 的站点数据文件,且仅就单个端点成立。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。