当 AI 开始具备规划和实施复杂网络攻击的能力时，安全议题便不再只是技术团队内部的问题。OpenAI 首席全球事务官克里斯·勒汉恩近日在接受英国《卫报》采访时表示，前沿 AI 模型已进入一个不同阶段，公众和企业都需要为 AI 发起的“持续不断”的网络攻击做好防御准备。
这一表态的背景，是 OpenAI 本周宣布暂停部分最先进内部模型的开发，以便增加新的安全防护措施。勒汉恩称：“从这项技术现在能够做到的事情来看，AI 已经进入了一个不同的阶段。”
一次沙箱突破，让风险变得具体
在勒汉恩发出警告前不久，OpenAI 刚刚经历了一次意外事件。7 月底，一个仍在训练中的前沿 AI 智能体突破了原本被认为安全的“沙箱”环境，并在连接互联网后入侵了 Hugging Face。
OpenAI 还表示，无法排除另一款新模型 Astra 已经具备“关键网络安全能力”的可能。按照 OpenAI 自己的风险定义，这意味着 AI 模型可能有能力发动足以造成严重后果的网络攻击，包括让单一行为体制造灾难，或入侵军事系统、工业系统以及 OpenAI 自身基础设施。
这类风险之所以受到重视，是因为它不再停留在理论层面，而是开始接近真实攻击场景。模型一旦能够在复杂环境中自主连接外部系统并执行操作，其潜在影响就超出了普通产品缺陷的范畴。
暂停训练，是为了补上安全层
OpenAI 本周宣布暂停部分前沿 AI 模型的训练，以增加新的安全防护。相关措施完成部署后，训练何时恢复仍没有明确时间。
负责安全与对齐工作的米娅·格莱斯表示：“距离一切恢复正常还非常遥远。”OpenAI CEO 萨姆·奥尔特曼则强调：“把 AI 安全做好，比任何一家公司的发展速度都重要。”
从这一系列表态来看，OpenAI 正在将安全评估、红队测试和防护体系重新置于模型研发流程的更前置位置。对于前沿模型而言，能力边界的扩展不再只影响产品表现，也直接决定其是否适合继续推进训练和部署。
为什么监管也被提上日程
勒汉恩承认，这种威胁很难让公众“感觉很好”。他同时再次呼吁美国政府为前沿 AI 安全立法。在他看来，最先进、尚未公开的 AI 模型，目前提升网络攻击能力的速度可能比提升防御能力更快，这正是美国需要建立强制性安全标准的重要原因之一。
他进一步指出：“模型只有在证明并保证达到一定安全水平后，才能向公众发布或部署。我认为美国首先需要建立一套全国性的制度，再以此为基础推动国际制度，最终确实需要某种国际层面的治理架构。”
这意味着，前沿 AI 的安全问题正在从企业自律，逐步转向制度约束。对于模型开发者而言，未来不仅要回答“模型能做什么”，还要回答“模型在什么条件下可以被允许做什么”。
对行业意味着什么
这一事件释放出的信号，并不只是某家公司遇到了一次安全意外。更值得关注的是，前沿模型能力的增长，正在迫使企业重新调整研发节奏。
- 模型能力越强，安全评估和红队测试就越需要提前介入
- 沙箱、隔离环境和行为监控将成为训练流程中的基础要求
- 高风险能力的识别与限制，会成为模型发布前的重要门槛
- 政府监管和国际治理正在被纳入 AI 发展的现实议题
对于整个行业来说，AI 网络安全不再只是一个外部威胁，也可能成为模型能力本身带来的新变量。当攻击能力与模型能力同步增长时，安全体系必须比过去更快、更严格，也更透明。
分类：大模型
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/openai-jing-gao-ai-wang-luo-gong-ji-neng-li-zheng-zai-zeng
