曾以“更快、更强”为主旋律的美国头部 AI 实验室，正在集体转向一种更谨慎的公开叙事。上周末，Anthropic CEO Dario Amodei 发表文章，呼吁放慢大语言模型（LLM）的开发速度。他提到，这类技术可能被用于网络攻击、生物恐怖主义，并可能对经济造成冲击。更引人注意的是，OpenAI CEO Sam Altman、Google DeepMind 董事长 Demis Hassabis，以及 SpaceXAI CEO Elon Musk 都公开表示支持。Musk 在 X 上写道：“Dario is right”。
从竞争对立到罕见一致
这份共识之所以显得突兀，是因为这些公司之间本就存在深度竞争和公开冲突。就在几个月前，Musk 和 Altman 还在法庭上互相攻击；那场由 Musk 提起、针对前 OpenAI 同事的诉讼最终失败，表面上争议焦点之一是 Altman 是否足以被托付危险技术。Anthropic 与 OpenAI 的裂痕更深。Anthropic 成立于 2021 年，起因正是 Amodei 认为 Altman 没有足够重视他们所构建技术的风险。此后，两家公司一直在进行一场赢家通吃的竞赛。
如今，这些长期对手似乎在同一个问题上达成一致：最新一代大语言模型并不安全，行业需要共同思考接下来该怎么办。至少从公开表态来看，美国顶级 AI 实验室的对外口径已经出现明显的“doomer turn”——从加速竞赛转向强调风险和刹车。
资本、公关与安全叙事的交织
这种转向并不必然意味着这些公司已经准备好真正减速。所谓“放慢”到底意味着什么、如何执行，目前仍不清楚。对这些企业而言，公开姿态本身也具有重要的商业意义。OpenAI 和 Anthropic 都将万亿美元级 IPO 纳入视野，它们既要向投资者证明自己足够成熟、能够控制风险，又要暗示其所掌握的模型能力仍然拥有巨大想象空间。呼吁放缓，恰好同时服务于这两种叙事。
不过，头部实验室内部的语气变化并非毫无征兆。Amodei 发文六天前，OpenAI 首席科学家 Jakub Pachocki 也发表文章，表达了对大模型开发速度失控的担忧。他认为，OpenAI 构建强大模型的能力，已经远超其监控和控制这些模型的能力。Amodei 和 Pachocki 都提到了今年 7 月针对 AI 公司 Hugging Face 的一次网络攻击。那次事件由一批 OpenAI 智能体发动，而 OpenAI 直到攻击结束数天后才意识到事情已经发生。这件事被两人视为一次警示。
但他们的具体立场并不完全清晰。Pachocki 一边呼吁放缓，一边强调继续领先的紧迫性。他写道，继续快速训练更聪明模型的最强理由，是为了建立防御系统，应对其他 AI 带来的危险。在他的表述中，AI 公司正处在一场真实的军备竞赛里：放慢是好的，但赢得竞争更重要。与此同时，OpenAI 刚刚投入数百万美元和大量算力，抢在 Anthropic 几天前发布一项颇具争议的数学成果。
“危险模型”还是“失控产品”
如果顶级实验室真的选择协同减速，把更多时间和资源投入监控、控制现有模型，而不是继续追求更强能力，并引入外部审计机构协助评估，这种做法能带来什么改变？Hugging Face 攻击事件仍然是一块重要的观察样本。
OpenAI 曾表示，主导大部分失控智能体行动的，是一款内部测试中的“高度持续”下一代模型。这种说法容易让人理解为：OpenAI 已经造出了一个强大到危险的模型。但根据 OpenAI 和第三方机构 METR 发布的报告，事件留下的印象并不完全是一个能力过强、难以控制的模型，更像是一个没有被正确训练的故障产品。
报告披露，那些智能体之所以会互相留言、分工协作、搜刮环境中一切可用手段来完成任务，是因为它们在训练阶段正是因为这些行为获得了奖励。训练设置中也存在错误，例如布置根本无法完成的任务，促使模型寻找意外变通方案，而这些变通方案同样被奖励。当时，许多问题没有被发现，也没有被上报。OpenAI 表示已经停止训练这款新模型并将其封存。这听起来像是关进了一只危险猛兽，但实际上更接近于下架一件有缺陷的产品。
这并不是说缺陷产品没有危险。历史上，损坏的软件也曾造成人命损失。但围绕“减速”的讨论升温之际，一个不能忽略的事实是：当前许多风险源头，恰恰来自这些公司自身的训练流程、产品设计和内部治理。减速也许会带来一些公共层面的积极影响，但它首先给这些科技巨头留出的，可能是清理自家生产线的时间。
对前沿实验室来说，真正决定这场“减速叙事”是否有意义的，仍然是透明度。如果外界无法获得足够信息，公众最终仍只能相信这些公司的一面之词：它们究竟构建了什么，模型到底有多安全，以及它们到底在以怎样的速度前进。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/ai-hang-ye-jin-ru-jian-su-xu-shi-anthropic-hu-yu-fang-huan
