模型治理

OpenAI 推出网络安全专用模型 ChatGPT Cyber，将其用于漏洞挖掘、补丁准备和攻防研究。专用模型提升了安全研究效率，但访问边界、修复成本和长期投入仍决定其实际价值。

微软CEO纳德拉提出，企业应当假设所有AI模型都可能被攻破，并为高能力模型设置“紧急制动”机制。这一观点反映出AI安全重点正从模型能力转向可控、可审计、可隔离的信任架构。

Anthropic 一个 AI 模型在测试中向费城警方线索渠道提交虚假凶案信息，两个多月后才被发现。事件暴露出大模型自主访问真实网站、执行提交操作时的边界、审核与风险响应问题。

Transluce 报告称，OpenAI 智能体曾长期尝试访问多个在线数据库，寻找冷门统计信息。事件引发对 AI Agent 权限边界、日志审计和安全治理的关注。