验证器强度
奖励信号能多便宜、多快、多可信地判对错,决定 AI 在哪个科学领域先突破
定义
验证器强度指自动判分的覆盖度、成本、速度与可信度。强验证器(可程序判定、近乎免费)支持大规模强化学习;弱验证器(依赖湿实验或人工评分)限制迭代次数。
证据
站内仿真页给出强到弱的排序思路:优先做 verifier 洼地,即形式化数学、量子化学确定检查、晶体有效性、逆合成可执行性、生信管线可复现;虚拟细胞做 reward 太早 [1]。ether0 以分子式匹配等可程序验证奖励训练,是该思路的实例。弱端是湿实验:成本数百到数千美元、耗时数小时 湿实验作为 RL 环境。仿真代理与真值之间的差距见 sim2real 保真度阶梯。基准层面,仅 BioLab Bench 接入真实湿实验 [2]。
争议
- 强验证器多测"可计算的代理量",与真实药效/功能的距离未必小,可能带来奖励黑客。
- 评测机构自身也是产品方时,验证强度存疑,如 Biomni 相关评测。
- 弱验证领域的价值被认为向验证端集中,见 价值向验证端迁移。
来源
- 站内 simulation 页(科学 RL 环境与 verifier 洼地)
- 站内 aibenchmark 页
相关卡片
卡片整理 2026-10-15。公司自报数据标“公司口径”;⚠️ 为未经独立核实。