29 BixBench
让 agent 在容器里对真实数据写代码做生信分析,并按结论判分。真值出自单人分析,存在题目歧义与错误答案,第三方核验子集上的分数明显更高。
bench-29 · 类型 E · 证据 L2 · 文本与 agent · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | BixBench;全称:生物信息分析 agent 评测(BixBench);别名:BixBench v1.5、BixBench3;有歧义、不自动链接:Verified-50 |
| 家族 | 否(后继版本由另一家机构运营、任务与指标都不同,本站单列,不作同一家族。) |
| 领域 | 文本与 agent |
| 类型 | E:E agent 与 LLM 的任务环境。可执行的容器化评测环境,按结论判分 |
| 证据层级 | L2:真值为已发表分析的结论,非实验验证 |
| 发布方 | FutureHouse、ScienceMachine(非营利研究机构) |
| 首次发布 | †(未核实)(依据:论文 arXiv v1(2025-02-28);数据集托管页的创建日早一天,但创建不等于公开可用。) 托管页创建日不作首发 |
| 其他里程碑 | 预印本 v1 †(未核实)(论文 arXiv v1);代码发布 †(未核实)(官方仓库最后一次合入) |
| 最近更新 | †(未核实),榜单条目:后继版本的榜单新增一条模型条目;原版本的最近事件是论文修订与仓库合入。(榜单页只有逐条发布日,无整体快照日)。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | 无公告(组织方未公告原版本的新一版或新一轮评测。) |
| 规模 | 初版 53 个 capsule、296 题;修订版约 61 个 capsule、205 题。 明细:capsule 数(v1) 53;题目数(v1) 296;capsule 数(v3 / repository v1.5) 约 61;题目数(v3 / repository v1.5) 205;后继版本任务数(successor) 20 |
| 状态 | ● 活跃:活跃;后继版本有官方榜单并在持续更新 |
| wet lab 更新 | 静态:无实验;版本更新是过滤式修订,不新增数据。 |
| 需自补 wet lab | 不需要 |
| 报告模型数 | 3 个计入(榜 1 · 自报 1 · 改协议 1);另 6 条不计入(未证实 6) |
| 当前排名 | ▣ 榜单(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:agent 在真实数据集上写并运行代码,完成多步生信分析,按结论判分。
- 真值:专家分析笔记本给出的结论,不是湿实验测量。
- 主指标:开放作答准确率(由模型判分)
- 次指标:选择题准确率(含与不含“信息不足”选项)
- 版本陷阱:必须写明版本与子集:初版、修订版、第三方核验子集与后继版本的题量和指标都不同。
当前排名
状态:▣ 榜单
- 指标:平均分(后继版本 20 个任务,按源论文程序化判分)
- 评测集 / 口径:BixBench3 (successor benchmark, 20 research-study-scale tasks)
- 快照日期:†(未核实)
- 榜单页面
当前第一:gemini-4-argon,0.523(平均分(后继版本 20 个任务,按源论文程序化判分);BixBench3 (successor benchmark, 20 research-study-scale tasks);榜单;†(未核实))
说明:唯一的官方榜单属于后继版本,任务与指标都不同,与原版本的准确率不可比;原版本没有官方榜单,也没有官方核验子集,相关条目是自报或第三方数字。
| 模型 | 名次 | 数值 | 指标 | 评测集 / 口径 | 来源类型 | 日期 | 出处 | 说明 |
|---|---|---|---|---|---|---|---|---|
| gemini-4-argon | 1 | 0.523 | 平均分(后继版本 20 个任务,按源论文程序化判分) | BixBench3 (successor benchmark, 20 research-study-scale tasks) | 榜单 | 出处 | 榜单第一名;条目标注的发布日为 2026-10-16 | |
| claude-fable-5.1 (with fallback) | 2 | 0.515 | 平均分(后继版本 20 个任务,按源论文程序化判分) | BixBench3 (successor benchmark, 20 research-study-scale tasks) | 榜单 | 出处 | 模型名按榜单原样抄录 | |
| claude-opus-5.5 | 3 | 0.502 | 平均分(后继版本 20 个任务,按源论文程序化判分) | BixBench3 (successor benchmark, 20 research-study-scale tasks) | 榜单 | 出处 | — | |
| gpt-6-astra | 4 | 0.492 | 平均分(后继版本 20 个任务,按源论文程序化判分) | BixBench3 (successor benchmark, 20 research-study-scale tasks) | 榜单 | 出处 | — | |
| grok-4.6 | 5 | 0.488 | 平均分(后继版本 20 个任务,按源论文程序化判分) | BixBench3 (successor benchmark, 20 research-study-scale tasks) | 榜单 | 出处 | 榜单共列 20 个模型,末位为 0.000 | |
| Biomni | — | 52.2% (full set) / 88.7% (Verified-50) | 平均分(后继版本 20 个任务,按源论文程序化判分) | Original BixBench: full set, plus a third-party verified subset of 50 questions | 自报 | 出处 | 原版本而非后继版本;由其开发方自己跑,不与榜单同列 | |
| Kosmos/Edison Analysis | — | 46% (Edison self-report, full set); 42.4% full set / 78.0% Verified-50 (Phylo re-run) | 平均分(后继版本 20 个任务,按源论文程序化判分) | Original BixBench: full set, plus a third-party verified subset of 50 questions | 第三方 | 出处 | 原版本;自报方与后继版本的运营方同属一家,存在利益关联 |
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。3 个计入(榜 1 · 自报 1 · 改协议 1);另 6 条不计入(未证实 6)。
官方参赛 / 官方榜单(1)
开发方按官方口径自报(1)
- Kosmos / Edison Analysis:开发方自报,且该数字属 Edison Analysis,与 Kosmos 的产品对应关系不清;BixBench 由同一公司制作;未进 BixBench3 官方榜(自报,置信度低,未核实†;出处)
开发方自报,协议有改动(1)
未证实(6,不计数)
- Co-Scientist:官方材料中未检出相关报告(未知,置信度高,未核实†;出处)
- GPT-Rosalind:官方文字只称在有公开分数的模型中领先,未注明评测版本;具体数值只见于二手转述且各家不一致(二手,置信度中;出处)
- Intern-S:官方仓库与三篇论文的可读正文均未出现该评测的报分(未知,置信度高;出处)
- Quine:官方材料中未检出相关报告(未知,置信度高,未核实†;出处)
- SciReasoner:论文正文未出现,该格仅据本站页面判定,须显示未证实(二手,置信度高;出处)
- VERID:官方材料(博客与论文)未检出该评测的报分(未知,置信度高;出处)
局限与注意
- 真值出自单人分析,存在题目歧义与错误答案,第三方核验子集上的分数明显更高。
- 选择题版本信号很弱,开放作答由模型判分,判分器本身是误差来源。
- 数据与题目公开,存在训练污染风险,且无时间冻结。
- 引用分数必须标版本:各版本题量与子集不同,数值不可直接比较。
- 后继版本由商业机构运营并自报成绩,存在利益关联。
新模型怎么用
按官方环境在容器内跑 agent,对每个 capsule 产出分析结论并用官方判分脚本计分,不需自补湿实验。报告须写明版本、题量、是否用核验子集、判分模型与 agent 框架,并区分开放作答与选择题;后继版本的分数不得与原版本混比。可搭配 LAB-Bench 与 BioML-bench。
搭配:LAB-Bench / LABBench2 · BioML-bench · BioMysteryBench · BioASQ
来源
- 原论文(预印本)
- 官方仓库与评测环境(仓库)
- 官方数据集托管页(仓库)
- 后继版本官方榜单页(榜单)
- 第三方核验子集与复跑的博客(公司博客)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| ranking.eval_set | all ranking rows labelled as the successor's task set | rows on the original benchmark are labelled as the original's full set plus a third-party verified subset | 后继版本与原版本任务与指标不同,标签必须分开,否则两套分数会被误读为可比。 | 依据 | 2026-11-16 |
| first_release | 2025-03 | 2025-02-28 (paper arXiv v1) | 日期审计:论文 v1 的发布日早于编号所示月份,托管页创建日不作首发。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。