ProGen3
自建 PPA-1 精选 3.4B 蛋白,最大 46B MoE、1.5T token
- 数据类型
- 蛋白序列
模型与发布
Profluent 于 2025-04 发布的稀疏混合专家蛋白语言模型,参数 112M–46B,最大模型训练 1.5T token [1]。注意"46"指参数而非 token。
训练数据配方
- 自建库:Profluent Protein Atlas PPA-1,精选 3.4B 全长蛋白、1.1T 氨基酸 token [1]。
- 公司称总序列库约 800 亿,约为 AFDB 的 30 倍,仅用 3.4B 精选子集训练(公司口径)[2]。
- 私有真值:有实验室数据对齐阶段,规模未读到;摘要报告更大模型对对齐响应更强,并首次在湿实验中验证规模对生成序列可行性的影响 [1]。
- 蒸馏合成:无明确披露。
数据供应方与许可
Profluent 自有宏基因组库;与 Twist Bioscience 有合作。
已知问题与口径冲突
对齐数据规模、许可条款未查到。
来源
相关卡片
卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。