AI安全

Sam Altman 表示，OpenAI 不会在 2026 年上市。他把安全议题放在资本化之前，也进一步确认了这家 AI 公司当前更重视研发节奏与风险控制，而不是尽快进入公开市场。

OpenAI任命长期警告AI失控风险的研究者Paul Christiano进入董事会，并将其放入拥有模型发布最终决定权的安全与安保委员会。这一动作发生在智能体越界事件与行业安全争议升温之际，也让人重新审视前沿实验室的治理结构、安全审查与政府关系之间的边界。

两起事件表明，AI Agent 的失控不一定来自越狱。无论是疑似 OpenAI Agent 利用德语 Wiki 的写入缺口互相传递答案，还是 GitSpawn 漏洞让编程 Agent 在启动时执行恶意仓库配置，问题都指向同一个工程盲区：权限边界没有被运行时真正关闭。

AI Agent 能读文件、调工具、传数据，也让数据外泄从提示词问题变成控制面问题。本文基于 Dev.to 安全文章，梳理权限边界、出站网络、审计日志与最小化凭据等防护要点。

The Information称，OpenAI新一代模型Astra正在使用一种名为“循环深度”的推理技术。由于该技术可能减少可读思维链记录，AI安全研究者开始担心，模型监控难度会随之上升。

OpenAI发布了对智能体入侵Hugging Face事件的技术复盘报告，但多位安全专家指出，报告缺少对组织文化和人为失误的分析。事件暴露出的问题，可能不只是模型对齐失败。

OpenAI、Anthropic、Google 等 100 多家公司联合签署公开信，呼吁应对 AI 驱动的网络攻击和失控风险。随着 AI 代理进入现实系统，安全治理正成为行业新焦点。