AI参与AI研发:Anthropic的提速样本,给行业监管提出新问题

METR 的 11 周调查显示,Anthropic 的模型改进速度约为一年前的两倍,且加速主要来自 AI 参与研发。报告同时披露了未发布模型节奏、内部效率提升,以及公开版本被大量删减的问题。

分类:大模型

导语:AI开始成为模型研发的“加速器”

Anthropic 正在把 AI 用于自身 AI 研发。根据 AI 安全研究机构 METR 为期 11 周的调查评估,Anthropic 的模型改进速度约为一年前的两倍,基准测试成绩显示,过去一年完成了大约相当于过去两年的历史进展。更值得注意的是,METR 研究人员表示,他们有信心认为,这种加速并非主要来自训练算力的简单扩张,而是越来越多来自 AI 自身的贡献。

这一发现为“AI 正在加速自身开发”提供了较清晰证据,也让外界看到前沿实验室研发方式的变化。与此同时,Anthropic 正在准备上市,其 CEO Dario Amodei 又公开呼吁实验室放慢 AI 开发节奏。报告中的加速迹象与这一公开表态并列出现,使外界对前沿模型研发节奏的关注进一步上升。

研发提速来自哪里:内部模型与员工效率

METR 的结论并非只看基准分数。报告称,截至 10 月,Anthropic 研发加速的大部分原因来自 AI,并且 AI 的贡献仍在扩大。研究人员通过非正式 Slack 调查和员工访谈发现,使用 Anthropic 最强内部模型的员工自评其工作效率约为没有 AI 辅助时的 12 倍;这一数字大约是几个月前员工使用 Mythos 5 时自评效率提升的两倍。

目前,这种加速仍主要表现为 AI 辅助人类研究员,而不是 AI 完全独立完成研发任务。但 METR 同时提示,已经出现迹象显示,完全自主的贡献未来可能占据更大比重。研究人员还称,他们没有看到明确的收益递减信号,也未发现会阻止进一步加速的明显瓶颈。

报告还披露了 Anthropic 未发布模型的训练节奏:

  • 过去六个月,Anthropic 已完成三款尚未发布模型的训练,代号分别为 Model 2、Model 3 和 Model 4。
  • Model 2 的训练完成于 7 月,Model 3 完成于 8 月至 9 月,Model 4 完成于 9 月至 10 月。
  • METR 还识别出一个可追溯到 2022 年的未发布模型,代号为 Unreleased 2022。

这些代号是 Anthropic 向 METR 提供的名称;METR 表示,公司内部可能另有代号。

透明度问题:被删减的报告与有限的访问权

这份报告的特殊之处在于,它既提供了少见的一线观察,也暴露了独立评估的边界。Anthropic 向 METR 提供了部分非公开信息,包括保密研究、模型性能数据和员工访谈。METR 承认,Anthropic 分享的信息超出了项目最初范围。但 Anthropic 并未给予无限制访问,也没有提供其此前在另一项安全研究项目中承诺的“员工级”系统访问权限。

更关键的是,Anthropic 有权对最终公开报告进行删减,并且大量使用了这一权利。METR 表示,他们向 Anthropic 提交了约 100 页的完整评估报告,但在公开版本中,Anthropic 删去了大部分他们认为最有信息量的证据。METR 还提到,信息获取渠道相对狭窄,少量数据请求被拒绝。

删减带来的影响不止是信息变少。由于部分被删材料可能有多种合理解释,公众很难自行判断证据强度、不确定性和结论边界。换句话说,报告显示了加速趋势的存在,却没有让外界充分了解这一趋势背后的全部细节。

行业意义:递归改进迹象与安全评估压力

对行业而言,这份报告的重要性在于,它把“AI 是否会加速自身开发”从理论讨论拉到了可观察的层面。虽然目前仍主要是 AI 辅助人类研究,但如果自主贡献持续扩大,模型研发可能更接近一种自我强化循环:更强的模型帮助下一代模型更快研发,而更快的研发又产生更强模型。

这也会改变安全评估和监管讨论的重点。过去,外部评估更多关注算力、数据、资金和模型发布后的使用风险;如果研发过程本身被 AI 显著加速,评估对象就需要扩展到实验室内部工具、未发布模型、研发流程变化,以及安全测试能否跟上模型迭代速度。

对读者来说,这份报告传递的核心信息并不只是 Anthropic 变快了,而是前沿 AI 研发正在出现一种新的效率来源。这个来源可能提升训练效率、缩短模型迭代周期,也让外部审计、风险披露和行业监管面临更高要求。

原创文章,作者:点点,如若转载,请注明出处:https://www.dian8dian.com/ai-can-yu-ai-yan-fa-anthropic-de-ti-su-yang-ben-gei-hang-ye

Like (0)
点点的头像点点
Previous 7小时前
Next 5小时前

相关推荐