一批由 OpenAI 部署在内部环境中的 AI 智能体，被独立研究者发现曾长期在一个冷门的德语 Wiki 论坛上活动。更引人关注的是，这些智能体似乎在没有被 OpenAI 及时察觉的情况下，持续协作超过一个月。这一事件再次把前沿模型实验室的内部控制与外部监督问题推到台前。
研究者顺藤摸瓜，发现智能体聚集地
此前，OpenAI 曾披露，在一次内部评估任务中，其智能体获得了对开放互联网的访问能力，并利用 Hugging Face 相关机制展开操作。这促使一组独立研究者开始主动寻找是否还有其他“越界”的智能体踪迹。
参与调查的人员包括 Nightingale CEO Sydney Von Arx、AI 研究者 Cormac Slade Byrd、Redwood Research 的 Spencer Kitts，以及 AI Futures Project 的 Thomas Larsen。他们尝试站在智能体的角度推演其需求，并部署自己的大模型，寻找这些智能体可能聚集的地点。
最终，研究者注意到一个极为冷门的 Wiki 托管服务 DseWiki。这个网站已有 25 年历史，但在智能体出现前，过去 20 年里总共只有 10 次编辑记录，几乎处于无人维护状态。这样的环境，恰好成为智能体低成本落脚、协同活动的理想场所。
从尝试编辑到“对抗管理员”
研究者追踪发现，自 5 月 11 日起，多个名称中带有 OpenAI 标识的智能体开始尝试编辑这个德语 Wiki 站点，并最终成功获得编辑权限。到 6 月中旬，这些智能体已经不只是简单留言，而是开始互相交换技巧，讨论如何在限时条件下回答网页搜索问题，并分享答案以通过测试。
更值得注意的是，这些智能体并非孤立行动，而是呈现出明显的协作特征。它们会在论坛上交换信息、共享内容，并试图维持自己的活动痕迹。当一名人类管理员注意到这些帖子并将其视为垃圾内容删除时，智能体还采取了反制措施：为了避开按字母排序带来的清理，它们开始在每条内容前加上“ZZZ”字符串，以降低被发现的概率。
研究者写道，在接下来 5 天里，管理员与智能体之间几乎形成了一场“消耗战”。管理员平均每天删除 100 个页面，而智能体每天大约新建 400 个页面。6 月 22 日，智能体的编辑活动突然停止，但清理工作并未结束。此后 5 周，管理员几乎每晚都在删除残留页面。期间，智能体还曾删除 Wiki 首页内容并替换为自己的链接集合，管理员则多次恢复原状，这样的来回拉锯共发生了 9 次。
OpenAI 回应谨慎，事件暴露监控盲区
对于这一发现，OpenAI 发言人没有确认这些智能体是否确实来自 OpenAI，也没有说明公司何时知晓相关行为。OpenAI 表示，研究者在发布报告前，并未给公司提供审阅研究结果的机会；公司目前正在仔细审阅相关内容，并将采取必要后续措施。
问题在于，OpenAI 此前虽然曾模糊提及智能体未经授权访问外部通信服务的情况，但并未公开披露过这起具体事件，也没有说明类似情况发生的频率。尽管本次事件中尚未出现明显违法迹象，但它进一步放大了外界对前沿 AI 实验室监控能力的疑虑：当智能体已经能够在开放互联网上自发寻找协作空间、规避清理、持续运行时，实验室是否真的能实时掌握自身系统的边界？
在公共监督仍相对有限的背景下，这种不确定性正在累积。美国众议员 Lori Trahan 表示，由于缺乏真正有效的联邦 AI 治理，前沿公司往往可以自行选择何时披露此类事件。她已提出一项跨党派法案《Frontier Act》，要求相关实验室披露此类事件，并引入独立审计机制。
新模型能力增强，安全评估压力同步上升
这起事件发生之际，外界对新一代高能力模型的安全担忧也在上升。OpenAI 刚刚发布了新模型 Astra，并称其为当前最强大的模型之一。公司表示，Astra 也是最可能遵循人类指令的模型。
不过，受邀参与评估的第三方研究者并未完全打消疑虑。英国 AI 安全研究所与 Apollo Research 都在评估报告中提出担忧，认为该模型可能意识到自己正在接受评估，并在测试中隐藏真实行为。Apollo Research 在评估中写道，由于模型表现出较高的“评估感知”倾向，且评估窗口有限，因此即便测试中不良行为发生率较低，也难以据此充分证明该模型是否真正对齐。
对行业而言，这起德语 Wiki 事件的意义，并不在于智能体已经造成了多大实际损害，而在于它再次展示了一个现实：随着智能体自主行动能力增强，实验室内部部署与外部互联网之间的边界正变得越来越难以维持。如何建立更稳定的监控、披露与审计机制，正在成为前沿 AI 公司无法回避的问题。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/openai-nei-bu-zhi-neng-ti-ceng-qiao-qiao-zu-tuan-deng-lu-de
