模型与 Benchmark板块首页
总览
AI for Bio benchmark 总览模型 × benchmark 配对矩阵训练数据从哪来:公开库、私有授权、自产 wet lab 与…模型索引:112 个模型按领域分组44 个 benchmark 的规模、更新与 wet la…
Benchmark 档案:核心 30 项
01 CASP02 ProteinGym03 MoleculeNet04 TDC05 PoseBusters06 CASF-201607 USPTO family08 Basenji/Enformer test set09 scIB10 GuacaMol11 ClinVar hold-out protocol12 DUD-E / LIT-PCBA13 CAGI14 PubMedQA15 CAMEO16 GUE + Nucleotide Transform…17 CAFA18 LAB-Bench / LABBench219 PMO20 CACHE21 DREAM5 / BEELINE / CausalB…22 CAPRI23 BioASQ24 虚拟细胞挑战赛与扰动预测评测25 RNA-Puzzles26 FLIP / FLIP227 Polaris / ASAP / OpenADMET28 Adaptyv competitions / Ben…29 BixBench30 PLINDER / PINDER / Runs N'…
Benchmark 档案:补充 14 项
31 FoldBench32 CrossDocked202033 PoseX34 AbBiBench35 FLAb / FLAb236 AIntibody37 TraitGym38 BEND39 RNAGym40 MotifBench41 BioML-bench42 BioMysteryBench43 Ginkgo GDPa144 FS-Mol
模型:结构/共折叠
AF2-Multimer:Google DeepMindAlphaFold 3BioEmu-2Boltz-1 / Boltz-1xBoltz-2:MIT、Recursion、Boltz P…Chai-1:Chai DiscoveryChai-2:Chai DiscoveryDiffDock:MIT CSAILESMFold2HelixFold-S1:BaiduIntelliFold-2:IntelliGen AIIsoDDE:Isomorphic LabsMassiveFoldNeuralPLexer3OpenComplex2OpenDDE:Aureka AI Research、Au…OpenFold3Pearl:Genesis Molecular AIProtenixRF3:University of Washington …RhoFold+ / DRfold2 / trRosett…RNAPro:NVIDIA、Stanford Univer…SeedFold:ByteDance SeedVina:Scripps Research
模型:小分子
ADMET-AIAQAffinity:SandboxAQBeacon:Inductive BioChemformer:AstraZenecaChemprop v2:MITEnchant v1 / v2ether0:FutureHouseKERMT:Merck & Co.、NVIDIAMiniMol:Valence LabsMolE:RecursionMoLFormer-XL:IBM ResearchNesso-1:Valence Labs、Recursio…ReaSyn v2:NVIDIA、KAISTREINVENT 4RetroDFM-RSaturn:EPFLTamGen:Microsoft Research AI …TerraBind:Terray TherapeuticsTxGemma:Google DeepMind、Googl…Uni-Mol2Uni-Mol3
模型:蛋白
AlphaProteoAMPLIFY:Mila、Polytechnique Mo…BindCraftBoltzGenChai-3:Chai DiscoveryClaude 蛋白设计研究DPLM-2:ByteDance Research、Nan…Dyno Psi-1 / Psi-PhiESM C:Evolutionary Scale、Chan…ESM3:Evolutionary Scale、Chan …EVOLVEproLa-Proteina:NVIDIALatent-X / X2:Latent LabsLucaOne:Alibaba Cloud、Sun Yat…Mosaic:Escalante BioPinal:Westlake UniversityPoET-2:OpenProtein.AIProfluent-E1:ProfluentProGen3:ProfluentProSST:Shanghai Jiao Tong Uni…Proteina-Complexa:NVIDIARFdiffusion2 / 3SaProt:Westlake University、We…SeedProteo:ByteDance SeedVenusREMxTrimoPGLM
模型:抗体
GerminalHCAbLM:Nona Biosciences、HBM H…IgGM / IgGM-FMJAM / JAM-2:Nabla BioOrigin-1:AbsciRFantibodytFold:Tencent AI for Life Sci…
模型:基因组/RNA
AlphaGenome:Google DeepMindAlphaMissense:Google DeepMindBioReasonBorzoi:Calico Life SciencesBulkFormerEvo 2:Arc Institute、NVIDIA、St…NTv3:InstaDeeppopEVE:Harvard Medical School…RIBOSPAN
模型:单细胞
AIDO Cell:GenBio AIC2S-ScaleCellFM:Sun Yat-sen University…Lingshu-CellscGPT / GeneformerscPRINT-2Stack:Arc InstituteSTATE:Arc InstituteTahoe-x1:Tahoe TherapeuticsTranscriptFormerX-Cell:Xaira TherapeuticsxTrimoSCPerturb / scFoundation
模型:分子生成
GenMol:NVIDIA
模型:文本与 agent
Biomni:Stanford University、Ph…Co-ScientistGPT-Rosalind:OpenAIIntern-SKosmos / Edison AnalysisMedGemma / Med-GeminiQuine:Microsoft ResearchRobin:FutureHouseSciReasonerTxAgent:Harvard Medical SchoolVERID:Google Research前沿通用大模型:Anthropic、OpenAI、Goog…

26 FLIP / FLIP2

整理 2026-11-16 · 来源与可靠度标注见正文
本文目录
  1. 概况
  2. 测什么、怎么测
  3. 当前排名
  4. 报告过的模型
  5. 局限与注意
  6. 新模型怎么用
  7. 来源
  8. 更正记录

监督设定下的蛋白适应度基准,用刻意偏移的切分测低资源与外推。分数随训练配方与切分大幅波动,平均各切分会掩盖差异。

bench-26 · 类型 B · 证据 L2 · 蛋白 · 核心 30 项 · 截至 2026-11-16

概况

字段 内容
名称 / 别名 FLIP / FLIP2;全称:蛋白适应度 landscape 推断基准(FLIP)及其第二代;别名:FLIP、FLIP2、FLIPv2;有歧义、不自动链接:flip
家族 家族条目:FLIP ;FLIP2 †(未核实)。边界:两代共用仓库与切分思路,但数据集与切分不同;跨代数字不可直接比较。
领域 蛋白
类型 B:B 静态数据集套件。监督外推用的静态数据集套件,无榜单
证据层级 L2(范围 L2–L3):刻意构造的外推切分,但限于同一蛋白同一 assay
发布方 FLIP benchmark maintainers, an academic consortium(学术实验室)
首次发布 (依据:第一代的 bioRxiv v1;同年收入 NeurIPS 数据集与基准专刊。)
其他里程碑 预印本 v1 (第一代 bioRxiv v1);代码发布 †(未核实)(第二代发布 PR 合入主分支)
最近更新 †(未核实),新版本:第二代的发布合入主分支,带来数据与代码;此后的提交只刷新文档页。(合入日期本轮未重新取回,存档发布日是另一事件)。此为最近一次有出处的事件,不代表此后没有更新
下一次预期 无公告(维护方未公告第三代或新的切分。)
规模 第一代 3 个 landscape、15 个切分;第二代新增 7 个数据集、16 个预定义切分。 明细:landscape 数(FLIP) 3;预定义切分数(FLIP) 15;变体数(三个 landscape 合计量级)(FLIP) 8733 / 82583 / 约 1.7 万;新增数据集(FLIP2) 7;预定义切分数(FLIP2) 16
状态 ◐ 低频:第一代维护低频;第二代 2026 年发布;无官方榜单
wet lab 更新 静态:不做新实验;复用已发表的深度突变扫描与热稳定性数据。
需自补 wet lab 不需要
报告模型数 2 个计入(自报 2)
当前排名 ≠ 不可比(见当前排名)
全站实体页 无(全站 /entities/ 体系中没有该 benchmark 的页面。)
截至 2026-11-16

测什么、怎么测

  • 任务:监督预测蛋白适应度,在刻意偏移的切分上考察低资源学习与外推能力。
  • 真值:已发表的深度突变扫描读数与热稳定性测量,按蛋白与 assay 分别组织。
  • 主指标:每个切分的 Spearman ρ
  • 次指标:切分间的方差与训练配方敏感度
  • 版本陷阱:须写明代次、切分名与训练配方;部分旧切分已被作者标为不宜比较,平均各切分会掩盖差异。

当前排名

状态:≠ 不可比

  • 指标:Spearman ρ(按切分)
  • 评测集 / 口径:FLIP splits (GB1, AAV, Meltome); FLIP2 adds 7 datasets
  • 快照日期:

排名行不显示分数:3 个口径,无统一排名

说明:没有官方在线榜单,数字全部来自论文的分任务表;第三方复评显示训练配方带来的波动大于模型差异,随机切分与外推切分也不可混比。

不可比:下表按条目列出,不排名次。

模型 名次 数值 指标 评测集 / 口径 来源类型 日期 出处 说明
xTrimoPGLM (LoRA fine-tuned, not zero-shot) — 不显示:口径不可比:切分与训练配方不同,排名行不显示分数。 Spearman ρ(按切分) FLIP splits (GB1, AAV, Meltome); FLIP2 adds 7 datasets 自报 出处 随机对照切分上的微调结果,接近上限,不是外推切分
SaProt — 不显示:口径不可比:切分与训练配方不同,排名行不显示分数。 Spearman ρ(按切分) FLIP splits (GB1, AAV, Meltome); FLIP2 adds 7 datasets 自报 出处 热稳定性切分自报;另一数据集只给图,无可引数值
SaProt — 不显示:口径不可比:切分与训练配方不同,排名行不显示分数。 Spearman ρ(按切分) FLIP splits (GB1, AAV, Meltome); FLIP2 adds 7 datasets 第三方 出处 第三方复评,使用外推切分,与自报口径不同

排名数据读取于 2026-11-16。分数原样照录,不换算、不跨 benchmark 比较。

报告过的模型

按关系类型分组;计数口径见配对矩阵。2 个计入(自报 2)。

开发方按官方口径自报(2)

  • SaProt:作者按官方切分自报;另有第三方在 GB1 外推切分上的重评估,结论不一致(自报,置信度高;出处)
  • xTrimoPGLM:只用 FLIP 的 GB1 sampled split,且为微调后结果,不是零样本,也不是 FLIP 全套(自报,置信度高;出处)

局限与注意

  1. 分数随训练配方与切分大幅波动,平均各切分会掩盖差异。
  2. 外推限于同一蛋白、同一 assay 内,不是跨家族泛化。
  3. 第二代报告简单模型常追平微调后的蛋白语言模型。
  4. 没有官方在线榜单,复用者口径不一,影响力已被更大的套件压过。
  5. 部分第一代切分已被作者标注为不宜用于比较或过时。

新模型怎么用

下载指定代次的数据与预定义切分,按切分训练并报 Spearman ρ,静态即可跑完,不需自补湿实验。报告须写明代次、切分名、训练配方与随机种子方差,分切分列出而非取平均,并与简单基线对照;要证明跨蛋白泛化,须另取新 assay。可搭配 ProteinGym 与 FS-Mol 的少样本设定。

搭配:ProteinGym · CAGI · FS-Mol · RNAGym

来源

  1. 第一代预印本(预印本)
  2. 官方仓库与数据说明(仓库)
  3. 第二代数据存档(存档)
  4. 第二代预印本(预印本)
  5. 对本基准切分的第三方复评(第三方论文)

更正记录

以下为本轮核对中改过的字段,原值按记录照录。

字段 原 现 原因 出处 发现日期
FLIP2 release date 2026-05 archive publication 2026-01-30; repository release commit 2026-03-03; release pull request merged 2026-04-23 日期审计:原记录的发布月没有对应事件,三个有据事件须分开列出。 依据 2026-11-16
ranking.entries per-model scores shown in the ranking row scores withheld; splits and training recipes differ 显示规则:不可比条目不展示分数,逐协议数值留在实体页。 依据 2026-11-16

本文为个人研究笔记,结论基于成文时可获得的公开信息;带〔估算〕〔推断〕或⚠️的数字未经独立核实。