28 Adaptyv competitions / BenchBB
连续多轮、公开数据的前瞻蛋白设计评测;主办方为商业服务商,非可刷分榜单。每轮一个靶点、几百个设计;主办方为商业服务商;计算代理指标与实测结合仅弱相关;各轮不可比。
bench-28 · 类型 A+B · 证据 L5 · 蛋白 · 核心 30 项 · 截至 2026-11-16
概况
| 字段 | 内容 |
|---|---|
| 名称 / 别名 | Adaptyv competitions / BenchBB;全称:Adaptyv 蛋白设计竞赛系列与 BenchBB 靶点集;别名:BenchBB、Adaptyv protein design competition |
| 家族 | 家族条目:Competition round 1 †(未核实);Competition round 2 †(未核实);BenchBB ;2025 competition round ;2026 joint competition 。边界:同一主办方的多轮竞赛与一个静态靶点集;各轮靶点与口径不同,命中率不可跨轮比较。 |
| 领域 | 蛋白 |
| 类型 | A+B:A 周期盲测挑战,每届新题新真值;B 静态数据集套件。周期性前瞻湿实验竞赛加靶点集 |
| 证据层级 | L5:前瞻湿实验;无独立实验室复现 |
| 发布方 | Adaptyv Bio(平台公司) |
| 首次发布 | †(未核实)(依据:主办方公告首轮竞赛的帖子;日由帖子标题推得,仅月份有据) |
| 其他里程碑 | 预印本 v1 (BenchBB 社区论文 bioRxiv v1);开赛 / 首批题目 †(未核实)(首轮竞赛公告(仅月份)) |
| 最近更新 | ,新一轮:2026 年联合赛第 5 期于 2026-10-26 开启;五期每周轮换,提交于 2026-11-09 前全部关闭。此为最近一次有出处的事件,不代表此后没有更新 |
| 下一次预期 | †(未核实)(组织方日程:实测数据于 2027 年 1 月初公开(日程注明可能变动)) |
| 规模 | 首轮 1,857 份提交、约 600 条实测;2025 轮实测 1,196 条;2026 联合赛 1,320 条、16 个靶点;BenchBB 7 个靶点。 明细:首轮提交 / 实测(Round 1) 1,857 / ~600;2025 轮实测序列(2025 round) 1,196 sequences;2026 联合赛序列 / 靶点(2026 joint) 1,320 / 16;BenchBB 靶点(BenchBB) 7 targets |
| 状态 | ● 活跃:活跃:每季度新赛题;2026 联合赛结果待公布 |
| wet lab 更新 | 新:每季度一轮,每轮约 300–1,200 条序列,由主办方自动化实验室实测。 |
| 需自补 wet lab | 断言真实泛化时需要 |
| 报告模型数 | 4 个计入(榜 2 · 改协议 1 · 赛后复用 1) |
| 当前排名 | — 无排名(见当前排名) |
| 全站实体页 | 无(全站 /entities/ 体系中没有该 benchmark 的页面。) |
| 截至 | 2026-11-16 |
测什么、怎么测
- 任务:所提交的设计序列能否表达并与指定靶点结合。
- 真值:主办方实验室按统一流程得到的结合测定结果,含实测负样本。
- 主指标:结合命中率
- 次指标:亲和力排序;表达率
- 版本陷阱:各轮靶点、命中阈值与分母口径不一;实测集非随机抽样,由计算指标预筛后选出。
当前排名
状态:— 无排名
- 指标:结合命中率与亲和力排序,另报表达率
- 评测集 / 口径:Anthropic x Adaptyv 2026 competition, Challenges 1-5 (EGFR, TNF-a, GLP1R, TfR1, KRAS G12D pMHC)
- 快照日期:
- 榜单页面
说明:当前轮无结果:五期均已停止提交,组织方页面无榜单、名次或分数,实测数据按日程于 2027 年初公开;往轮结果分散在主办方博文中,口径不一。
排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。
报告过的模型
按关系类型分组;计数口径见配对矩阵。4 个计入(榜 2 · 改协议 1 · 赛后复用 1)。
官方参赛 / 官方榜单(2)
- BindCraft:作者本人参加 Nipah 赛,EGFR 赛 top10 出现该工具;赛事官方不按工具给命中率,记录为二手(榜单,置信度中,未核实†;出处)
- Mosaic:参加该赛事的 de novo 赛道,结果页按设计列出、不按工具统计命中率;命中数为开发方自报(榜单,置信度高;出处)
开发方自报,协议有改动(1)
- Proteina-Complexa:项目页写明参赛并链到组织方页面,但组织方页面未检出模型名,按口径归为组织方未确认的自报参赛(自报,置信度高;出处)
赛后数据复用(1)
- Claude 蛋白设计研究(通用模型 + 公开工具):主办方用 16 个既往竞赛、黑客松与基准靶点做匿名外测,不是公开赛的参赛条目(第三方,置信度高;出处)
局限与注意
- 每轮一个靶点、几百个设计;主办方为商业服务商;计算代理指标与实测结合仅弱相关;各轮不可比。
- 实测集经计算指标预筛后选出,相关性在截断范围内计算,会低估真实相关。
- 已有抗体改造与从头设计混在同一轮,两者难度不同;前者是很强的基线。
- 复现须付费上机,无独立实验室复测;主办方存在商业利益。
- BenchBB 无统一评分协议,榜单提交数未公开。
新模型怎么用
无法静态跑:没有可复用的训练与测试切分,只能取 BenchBB 靶点送主办方实测或参加下一轮。报告须同时写明命中阈值、分母、表达率与靶点,并配正交验证;单轮命中率不能用于方法排名,也不能推及功能、特异性或可开发性。
搭配:AIntibody · FLAb / FLAb2 · AbBiBench
来源
- 2026 联合赛组织方页面(官方网站)
- 第 2 轮结果(主办方博文)(公司博客)
- BenchBB 与社区介绍(主办方博文)(公司博客)
- BenchBB 社区论文(bioRxiv)(预印本)
- 代理指标元分析(bioRxiv 2025)(第三方论文)
- 主办方博文存档(公司博客)
更正记录
以下为本轮核对中改过的字段,原值按记录照录。
| 字段 | 原 | 现 | 原因 | 出处 | 发现日期 |
|---|---|---|---|---|---|
| members | [{"name": "EGFR round 1", "first_release": "2024-07-18", "basis": "announcement post"}, {"name": "EGFR round 2", "first_release": "2024-10", "basis": "launched Oct 2024, results Dec 2024"}, {"name": "Anthropic x Adaptyv 2026", "first_release": "2026-09-28", "basis": "Proteinbase competition page"}] | [{"name": "Binder design competition round 1 (EGFR)", "first_release": "2024-07", "basis": "announced July 2024; exact day inferred from a post title only, flagged"}, {"name": "Round 2 (EGFR)", "first_release": "2024-11", "basis": "existing note, day not re-verified"}, {"name": "BenchBB / community paper", "first_release": "2025-04", "basis": "bioRxiv 2025.04.17.648362"}, {"name": "Nipah protein design competition", "first_release": "2025-10-21", "basis": "announced 2025-10-21; submissions open 2025-11-01; leaderboard 2025-11-19; results 2026-01-05"}, {"name": "Anthropic x Adaptyv 2026", "first_release": "2026-10-26", "basis": "challenge 5 window opened 2026-10-26 (organiser page)"}] | 家族成员漏列 2025 年一轮与 BenchBB。 | 依据 | 2026-11-16 |
| wetlab_note | about $149 per sequence | not stated by the operator; the figure appears only in secondary sources and no pricing page was located | 单序列报价只见二手来源,主办方页面无法核实,删除。 | 依据 | 2026-11-16 |
| next_expected | results published 2026-12-15 | organiser schedule: testing by 2026-12-07, data published early January 2027 (subject to change) | 组织方页面给出的日程与站上旧记不符。 | 依据 | 2026-11-16 |
| models_reported.model-proteina-complexa | not listed (zero-pairing list) | self-reported-modified-protocol | 项目页自报参赛而组织方页面未确认,归为自报。 | 依据 | 2026-11-16 |
本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。