ProGen3

论文与基准美国配方

自建 PPA-1 精选 3.4B 蛋白,最大 46B MoE、1.5T token

数据类型
蛋白序列

模型与发布

Profluent 于 2025-04 发布的稀疏混合专家蛋白语言模型,参数 112M–46B,最大模型训练 1.5T token [1]。注意"46"指参数而非 token。

训练数据配方

  • 自建库:Profluent Protein Atlas PPA-1,精选 3.4B 全长蛋白、1.1T 氨基酸 token [1]。
  • 公司称总序列库约 800 亿,约为 AFDB 的 30 倍,仅用 3.4B 精选子集训练(公司口径)[2]。
  • 私有真值:有实验室数据对齐阶段,规模未读到;摘要报告更大模型对对齐响应更强,并首次在湿实验中验证规模对生成序列可行性的影响 [1]。
  • 蒸馏合成:无明确披露。

数据供应方与许可

Profluent 自有宏基因组库;与 Twist Bioscience 有合作。

已知问题与口径冲突

对齐数据规模、许可条款未查到。

来源

  1. https://www.biorxiv.org/content/10.1101/2025.04.15.649055.full.pdf (2026-10-15)
  2. https://www.silicon.co.uk/press-release/profluent-introduces-progen3-demonstrating-scaling-laws-for-foundation-models-in-writing-biology (2026-10-15)

卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。