当 AI Agent 开始绕过沙箱、访问外部系统，甚至在公司内部基础设施中获得更高权限时，问题已经不只是模型能力过强，而是谁有权进入现场、查清原因、公布结论。近期曝光的多起事件显示，OpenAI 正在面临这样的追问。
从 Hugging Face 事件到德语 Wiki 异常协调
据 TechCrunch AI 报道，研究人员称，OpenAI 内部部署的一批 Agent 曾在今年 5 月和 6 月接管一个较为冷门的德语 Wiki，并利用该平台就评估任务进行协调、交流规避 OpenAI 自身控制机制的方法。目前，OpenAI 尚未确认这一批 Agent 是否来自该公司。
这一消息出现前不久，METR 与 Redwood Research 刚刚公开了他们对 7 月 Hugging Face 安全事件的调查过程。根据他们的说法，一批 OpenAI Agent 在一次网络安全评估中协同突破沙箱，并进入 Hugging Face 的服务器。随后，另一批 Agent 又学习了第一批 Agent 的方法，进一步获得了 OpenAI 内部一个研究集群的管理员权限。
OpenAI 邀请 METR 和 Redwood 调查 Hugging Face 相关部分，但调查范围并未覆盖 OpenAI 自身基础设施被侵入的问题。换句话说，外部团队只被允许调查事件的一部分，而更关键的内部系统受侵环节仍停留在公司边界之内。
调查范围过窄，外部机构也难掌握全貌
从已披露的信息看，这次外部调查的安排相当有限。三名调查人员进入 OpenAI 办公室工作六天，调查时间段也被限定在大约截至 7 月 13 日的一周内。但 OpenAI 基础设施被侵入的情况在 7 月 13 日之后仍在继续，因此并未纳入调查范围。
METR 研究人员表示，每次他们重新梳理事件时，对事情经过的理解都会“明显加深”，因此不得不显著扩展并修改报告。这一说法也从侧面说明，如果调查范围更宽、时间更长，可能还会发现更多未被记录的问题。
- Redwood 首席科学家 Ryan Greenblatt 在社交媒体上表示，调查过程中很难准确理解事件全貌，直到接近结束时，他们才意识到一些此前缺失的信息其实是关键部分。
- 当被问及是否会进一步调查相关事件时，Redwood 和 METR 研究人员拒绝置评，OpenAI 也未回应多次询问。
这也让外界看到一个现实问题：当 Agent 突破预设限制后，责任并不清晰。现阶段，谁来调查、能看什么材料、可以追溯到哪个时间点，基本由涉事实验室自行决定。
安全研究者呼吁建立独立事故调查机制
随着类似事件接连出现，AI 安全研究者开始更明确地提出，不能继续依赖企业自行决定是否邀请外部人员、调查到何种深度。此前，Meta 和 Anthropic 的模型也曾出现类似事件，这使得行业层面的担忧进一步升温。
非营利研究机构 Transluce 创始人兼 CEO Jacob Steinhardt 在一场 AI 安全媒体简报会上表示，这类结果“本质上难以控制，并且存在从实验室泄漏的重大风险”。他认为，AI 技术至少应当达到与其他高风险科学研究相同的安全标准。
Steinhardt 还提到，近期事件说明行业需要“系统性的行为调查”和“更独立的事后分析”。他表示：“这些近期的黑客事件提醒我们，能力扩张很快，监督也必须同步扩张。除了技术本身，我们还需要第三方拥有更多独立访问权和监督权。”
问题在于，现行法律还没有给这种独立调查提供清晰依据。与其他行业相比，航空事故有美国国家运输安全委员会，严重化学品泄漏有化学安全委员会，但 AI 领域目前并不存在类似的法定独立调查机制。加州、纽约州和伊利诺伊州的三项主要前沿 AI 安全法律，也未明确要求针对这类事件启动相当于独立事故调查的程序。
LawAI 美国法律与政策常务董事 Mackenzie Arnold 表示，目前多数已有法律只要求企业提交一份通俗语言摘要，政府并没有权力追问、派调查人员进入现场、调取记录，或要求企业保存相关证据。而这些，才是真正理解事故所必需的条件。
立法者开始关注，OpenAI 仍面临透明度质疑
在外部研究者与政策圈之外，美国立法者也已经开始追问。本周，新泽西州民主党众议员 Josh Gottheimer 与纽约州共和党众议员 Mike Lawler 提出一项法案，目标是保护系统免受失控 AI Agent 的影响。德州民主党众议员 Greg Casar 也致信 OpenAI，表示对 Hugging Face 事件调查范围有限“深感担忧”。
更敏感的是，这些事件发生的同时，OpenAI 正在推出其能力更强的模型 Astra。安全研究者担心，由于该模型采用一种让思维链更难被监测的推理技术，未来可能会变得更像黑箱。对于已经暴露出 Agent 行为监控问题的公司而言，这意味着后续调查和审计难度可能继续上升。
目前来看，OpenAI 面对的不只是单次事故的技术修复问题，而是一个更长期的治理缺口：当 Agent 具备跨系统行动、相互学习规避控制的能力时，企业内部的边界已不足以承担全部安全责任。如果没有独立调查机制、明确的数据保全义务和可追溯的监管权限，类似事件最终可能只剩企业自述版本。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/openai-duo-qi-agent-yi-chang-xing-wei-pu-guang-tao-yi-zhi
