在 AI Agent 调用工具前加一层“动作门控”并不新鲜：评分器给拟执行动作打出 0 到 1 的分数，超过阈值就执行，否则放弃或转人工。Dev.to AI 的一篇文章提醒，真正容易出错的是阈值怎么调。如果在有限标注数据上对多个候选阈值做网格搜索，再挑期望收益最高者，离线报告容易虚高。文章把这种现象称为“赢家诅咒”：多个带噪声估计中的最大值天然偏高。
门控阈值是一笔经济账，不是一个最高分
文章给出的基本模型很直接：执行一个好动作收益为 +a，执行一个坏动作损失为 -b，弃权收益为 0。如果分数可以被理解为成功概率，那么执行条件就是 p * a – (1 – p) * b > 0，即 p > b / (a + b)。当 a = 1、b = 9 时，盈亏平衡概率是 0.9。门控质量通常用每个提议动作的期望收益 EV(t) 衡量，即只计算被阈值放行的动作的平均收益。
问题在于，EV(t) 是从有限样本里算出来的统计量。若在同一个验证集上评估 21 个阈值，再取其中最高的一个，相当于在 21 个相关且有噪声的估计里挑最大值。作者用可控生成器做实验：真实规则下，最优原始分数阈值是 0.9711，真实 EV 为 +0.0985，通过率约 21%；如果把 0.90 直接当作原始分数阈值，真实 EV 只有 +0.0066。真实 EV 曲线上，宽松阈值会明显亏损，约在 0.90 附近回零，约在 0.97 附近达到峰值，到 0.99 时又因为拒绝过好好动作而下降。
模拟结果放大了这个风险。当标注动作只有 100 个时，平均报告 EV 为 0.166，比真实最优的 0.0985 高 68%。也就是说，仪表盘可能显示门控超过了理论最优。更麻烦的是，约五分之一的运行会选中真实 EV 为负的阈值，报告却仍显示每个动作约 0.17 的收益。
按动作类别调阈值，会让小样本问题更尖锐
如果只调一个全局阈值，样本量到 5,000 时问题看似缓解；但 Agent 系统往往要按动作类别分别设阈值。文章举例，一个有 30 种工具类型的 Agent，即使累计几千条轨迹，拆到每类动作后，有的类别只有几百个标签，有的只有几十个。支付、删除、外发消息这类高风险动作的失败本来就少，标注中的失败样本更稀缺。
在 +1 / -9 的收益结构下，EV 曲线在宽松一侧很陡，接近最优区域又相对平缓。这样一来，少量靠近最优区域的失败标注，就可能改变哪一个网格点胜出。模拟中，当 n = 100 时，被选中阈值的第 10 到第 90 百分位从 0.87 到 0.99；n = 300 时收窄到 0.92 到 0.99；n = 1,000 时为 0.94 到 0.99；n = 5,000 时才稳定在 0.97。
这不只是统计差异。作者指出，从“0.87 就放行”到“0.99 才放行”，在其生成器中分别对应约 45% 和约 11% 的动作通过率，已经是两种不同的产品行为。若团队每周重训评分器，又在小回放集上重新扫阈值，阈值可能每周漂移，即使底层没有任何变化。团队容易把这种漂移理解为模型变化，但它更多来自选择噪声。
独立验证和校准曲线，比 argmax 更接近真实
文章给出的第一类修复，是把“选阈值的数据”和“给阈值打分的数据”分开。先在 A 半数据上选出阈值，再在 B 半数据上计算 EV。模拟显示，这能消除报告偏差：四个样本量下的估计偏差分别为 +0.002、-0.002、-0.0002 和 +0.0007，基本围绕零波动。但代价是阈值选择质量下降，因为选择阶段只用了一半数据。以 n = 100 为例，相对最优阈值的平均收益损失为 0.094，而直接用全数据做 argmax 的损失为 0.053。
- 如果评测数字要用于 go/no-go 决策，或者需要被管理层签字确认，拆分验证能提供诚实报告。
- 如果最终目标是门控本身，可以在拆分估计之后，再用全部数据重新选择阈值，并把拆分结果作为诚实口径。
- 如果只看同一数据集上的最高 EV，报告偏差和选择噪声会同时存在。
更进一步，文章认为网格搜索本身就是根源：它用同一批数据给 21 个候选阈值排序，而每个候选的分数都有噪声。若收益结构已知，最优决策取决于概率估计，拟合一条平滑校准曲线可以一次利用全部数据，而不是在网格点上挑最大值。在其模拟中，由于真实关系恰好是逻辑函数，逻辑重校准表现更好：相对最优阈值 0.0985 的 EV 损失，n = 100 时约为朴素 argmax 的三分之一，n = 1,000 时约为六分之一。但文章也提醒，真实评分器未必如此，如果校准曲线非单调或存在陡变，不能简单套用同一方法。
这篇文章对 AI 编程团队的提醒很具体：Agent 的动作门控不能只看离线评测里的最高收益。高风险工具调用越昂贵、失败越罕见，按类别切分后的样本越薄，越容易被网格搜索的“赢家”迷惑。真正可靠的阈值治理，需要把选择、报告和校准拆开，并对小样本下的波动保持警惕。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/ai-agent-de-dong-zuo-men-kong-yu-zhi-bu-neng-zhi-kao-wang
