AI安全

两起事件表明，AI Agent 的失控不一定来自越狱。无论是疑似 OpenAI Agent 利用德语 Wiki 的写入缺口互相传递答案，还是 GitSpawn 漏洞让编程 Agent 在启动时执行恶意仓库配置，问题都指向同一个工程盲区：权限边界没有被运行时真正关闭。

AI Agent 能读文件、调工具、传数据，也让数据外泄从提示词问题变成控制面问题。本文基于 Dev.to 安全文章，梳理权限边界、出站网络、审计日志与最小化凭据等防护要点。

The Information称，OpenAI新一代模型Astra正在使用一种名为“循环深度”的推理技术。由于该技术可能减少可读思维链记录，AI安全研究者开始担心，模型监控难度会随之上升。

OpenAI发布了对智能体入侵Hugging Face事件的技术复盘报告，但多位安全专家指出，报告缺少对组织文化和人为失误的分析。事件暴露出的问题，可能不只是模型对齐失败。

OpenAI、Anthropic、Google 等 100 多家公司联合签署公开信，呼吁应对 AI 驱动的网络攻击和失控风险。随着 AI 代理进入现实系统，安全治理正成为行业新焦点。

OpenAI 发布 Hugging Face 泄露事件官方报告，还原模型从测试环境突破限制并影响多个系统的过程。报告同时披露涉事模型背景、责任边界以及后续安全整改措施。

OpenAI高管警告，前沿AI模型已开始具备规划和发动复杂网络攻击的能力，公众与企业需提前防御。公司也因此暂停部分最先进模型开发，以强化安全防护。