18 LAB-Bench / LABBench2
生物研究基础能力题库;原版多选已部分饱和,作者以 LABBench2 取代。多选题抬高了原版分数;小子集(41 题与 135 题)噪声大;公开的 80% 可能已被污染;无湿实验证据
bench-18 · 类型 E · 证据 L1 · 文本与 agent · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | LAB-Bench / LABBench2;全称:语言智能体生物学基准;别名:LAB-Bench、LABBench2、LitQA2、LitQA3、FigQA、ProtocolQA、SeqQA、SeqQA2、CloningScenarios、CloningQA、DbQA、SuppQA、TableQA;有歧义、不自动链接:LitQA |
| 家族 | 家族条目:LAB-Bench ;LABBench2 †(未核实)。边界:家族条目:原版 LAB-Bench(多选)与 LABBench2(开放作答、可带工具);两者题库与分数不可同列 |
| 领域 | 文本与 agent |
| 类型 | E:E agent 与 LLM 的任务环境。研究能力题库;LABBench2 带可执行验证器 |
| 证据层级 | L1(范围 L1–L2):CloningScenarios 近 L2 |
| 发布方 | FutureHouse、Edison Scientific(多类机构联合) |
| 首次发布 | (依据:LAB-Bench arXiv v1(2407.10362)) |
| 其他里程碑 | 预印本 v1 (LAB-Bench arXiv v1(2407.10362)) |
| 最近更新 | ,仅维护:labbench2 评测框架提交:按注释 CDS 文件给 seqqa2 基因评分;2026-10 有多次评分器与运行器修复。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(组织方未公告下一版本或榜单更新时间。) |
| 规模 | 原版 2,457 题、30 个子任务;LABBench2 1,912 个任务、11 类,无多选 明细:题目(论文 Table 1)(LAB-Bench) 2,457;子任务(LAB-Bench) 30;HF 公开行数(约 20% 私有留存)(LAB-Bench) 1,967;任务(论文 Table 1;发布页写 1,892)(LABBench2) 1,912;类别(LABBench2) 11 |
| 状态 | ● 活跃:LABBench2 有官方榜(更新于 2026-03-23);原版部分子集已饱和 |
| wet lab 更新 | 静态:无;题目由组织方内部编写,按版本修订 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 3 个计入(榜 1 · 改协议 2);另 5 条不计入(未证实 5) |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:LLM 与 agent 的生物研究能力:文献、数据库、图表、序列、克隆与实验协议排错
- 真值:专家编写答案,部分(ProtocolQA、SeqQA)程序构造;LABBench2 序列与克隆题用可执行验证器
- 主指标:accuracy(LABBench2:验证器或专家评审)
- 次指标:precision(原版);coverage(原版)
- 版本陷阱:原版与 LABBench2 题库不同,不可同列;须写明版本、有无工具、是否内联上下文与榜单日期;厂商系统卡子项常为派生口径
当前排名
状态:▣ 榜单
- 指标:LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base'
- 评测集 / 口径:LABBench2 (1,912 tasks, 11 categories)
- 快照日期:
- 榜单页面
当前第一:gpt-5-2,0.609 (Tools + high); Base 0.345(LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base';LABBench2 (1,912 tasks, 11 categories);榜单;)
说明:榜单仅 5 个模型(页面标注发布 2026-02-05、更新 2026-03-23),无 GPT-Rosalind 或 agent 系统;原版无榜单,厂商系统卡数字为自报子集
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| gpt-5-2 | 1 | 0.609 (Tools + high); Base 0.345 | LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' | LABBench2 (1,912 tasks, 11 categories) | 榜单 | 出处 | 总榜第一(Tools + high);Base 设定第一为 gemini-3-pro-preview(0.404) | |
| gpt-5-2-pro | 2 | 0.583 (Tools + high); Base 0.382 | LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' | LABBench2 (1,912 tasks, 11 categories) | 榜单 | 出处 | — | |
| gemini-3-pro-preview | 3 | 0.564 (Tools + high); Base 0.404 | LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' | LABBench2 (1,912 tasks, 11 categories) | 榜单 | 出处 | — | |
| claude-opus-4-6 | 4 | 0.519 (Tools + high); Base 0.349 | LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' | LABBench2 (1,912 tasks, 11 categories) | 榜单 | 出处 | — | |
| claude-opus-4-5 | 5 | 0.471 (Tools + high); Base 0.325 | LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' | LABBench2 (1,912 tasks, 11 categories) | 榜单 | 出处 | — | |
| Biomni | — | 不显示:出处不全(缺 url 与日期),按诚实规则不显示该数字†(未核实) | LABBench2 总分(各子基准均值),设定 'Tools + high' 与 'Base' | Original LAB-Bench DbQA/SeqQA subsets (not LABBench2) | 自报(二手) | —†(未核实) | — | 原版 LAB-Bench 子集,非 LABBench2;来自本站笔记(二手),未复核;与榜单不可比 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。3 个计入(榜 1 · 改协议 2);另 5 条不计入(未证实 5)。
官方参赛 / 官方榜单(1)
开发方自报,协议有改动(2)
- Biomni:开发方自报,只用 DbQA/SeqQA 子集,口径与官方不同(自报,置信度低,未核实†;出处)
- GPT-Rosalind:只覆盖该评测第二版 15 项中的 11 项,官方只给定性结论,无公开分数,官方榜单亦未收录(自报,置信度中;出处)
未证实(5,不计数)
- Co-Scientist:官方材料中未检出相关报告(未知,置信度高,未核实†;出处)
- Intern-S:官方仓库与三篇论文的可读正文均未出现该评测的报分(未知,置信度高;出处)
- Quine:官方材料中未检出相关报告(未知,置信度高,未核实†;出处)
- SciReasoner:论文正文未出现,该格仅据本站页面判定,须显示未证实(二手,置信度高;出处)
- VERID:官方材料(博客与论文)未检出该评测的报分(未知,置信度高;出处)
局限与注意
- 多选题抬高了原版分数;小子集(41 题与 135 题)噪声大;公开的 80% 可能已被污染;无湿实验证据
- LABBench2 论文称各模型准确率较原版低 26–46 个百分点;原版分数不能代表开放作答能力
- 厂商系统卡的子项(如开放作答版 ProtocolQA)是派生口径,同一子项有多套复述数字,应以原文为准
- ProtocolQA 是纸面找错,不涉及实际实验执行
新模型怎么用
跑仓库或 Hugging Face 数据即可,无需湿实验;原版需自写 agent 函数返回选项字母。优先使用 LABBench2,写明有无工具(检索、代码执行)、是否内联上下文与榜单日期;私有 20% 留存集无法自查污染。搭配 BixBench 与 Adaptyv 等湿实验盲测。
搭配:BixBench · Adaptyv competitions / BenchBB · PubMedQA · BioASQ
来源
- LAB-Bench 论文 arXiv 2407.10362(预印本)
- LABBench2 论文 arXiv 2604.09554(预印本)
- LABBench2 官方榜单页(榜单)
- LABBench2 发布页(公司博客)
- labbench2 仓库(仓库)
- LAB-Bench 仓库(仓库)
- LAB-Bench Hugging Face 数据(仓库)
- Claude Opus 4.5 系统卡(厂商自报)(公司博客)
- Biomni 预印本(开发方)(预印本)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| ranking.entries[Biomni] | Biomni original LAB-Bench subset scores shown as a ranking entry | Score withheld: entry lacks url and date | 变更集 §5.3:provenance 不全(缺 url 与日期)的条目不显示分数。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。