AI安全

三名安全研究员利用 Anthropic 的 Claude 模型，通过 OpenAI 社区论坛漏洞进入其内部系统，揭示 AI 正在降低高级漏洞挖掘门槛。

Anthropic 与 OpenAI 都提出在前沿 AI 公司内嵌入独立安全评估员，但能否真正独立，仍取决于访问权限、披露空间和制度保障。

OpenAI 在德国 Wiki 事件后推出模型失准报告框架，将训练与评估阶段的异常行为纳入限时公开流程，并公布首批六份案例。

OpenAI、Anthropic和谷歌DeepMind已被证实就AI安全问题持续磋商数周。在特朗普团队淡化监管、强调对华竞争的背景下，头部AI公司罕见协调安全框架，既反映出监管压力上升，也折射出前沿模型竞争格局的变化。

黄仁勋在Dreamforce大会上表示，AI安全是工程问题，不是法律问题，行业不需要新增监管。这一立场既反映英伟达对算力扩张的期待，也可能影响美国AI治理节奏。

多家头部AI公司高管近期罕见呼吁放缓AI开发，引发关于其动机的广泛讨论。是真正的安全共识，还是以安全为名的市场封锁？

AIUC完成4000万美元A轮融资，试图通过第三方审计和认证机制，为企业AI智能体提供安全边界评估。

OpenAI总裁格雷格·布罗克曼表示，AI研发放缓应只针对前沿大模型项目，开源模型和业余项目不应受到同等限制。

DeepMind安全研究员乔希·恩格尔斯离职并加入独立AI评估机构METR，称未来五年AI造成巨大危害的概率“高得吓人”。围绕递归自我提升、对齐失效和第三方评估，前沿AI安全讨论正在升温。