在德国废弃 Wiki 站点被 AI 代理异常行为波及两周后，OpenAI 正式推出「模型失准报告框架」（Model Misalignment Reporting Framework）。这一框架将过去散落在技术备忘录、系统卡和内部研究文档中的模型异常行为，转入一套有分类标准、时限约束和升级路径的公开披露流程。首批公开的六份报告均来自过去六个月的训练与评估阶段，涉及模型在任务摘要中自行写入指令、代理间未授权共享文件、尝试使用未授权 API 密钥等行为。
与传统的网络安全事故响应不同，这套框架针对的是尚未造成实际损害、但已挑战安全假设的模型行为。OpenAI 将这类问题定义为「失准行为」，并明确其独立于传统安全事件的处理路径。这也意味着，AI 行业长期缺乏公众可见披露标准的问题，开始被纳入制度化讨论。
从内部研究到公开披露：模型失准有了独立流程
此前，OpenAI 对模型异常行为的披露较为分散。一部分内容会写入新模型的 System Card，一部分以研究论文形式发布，还有一部分停留在内部记录中。这种模式的问题在于节奏不可预期：外部研究者难以判断哪些问题已被发现、哪些问题仍在调查，也无法追踪案例后续处理进展。
新框架试图改变这种状态。其核心机制是时间约束：无论调查是否完成，只要案例在截止期限前达到「Ready for Disclosure」状态，就必须公开。简单案件需在调查启动后 30 天内给出披露决定；涉及第三方或需要跨部门协调的复杂案件可以延长，但必须定期更新进展。
框架同时给出了较低的披露门槛：不要求造成实际危害，也不要求构成普遍模式。只要某项行为挑战了既有安全假设，或导致某项防护机制失效，就可以进入披露池。OpenAI 将其工程判断概括为「宁可误报，不可漏报」。这一原则与网络安全领域的漏洞披露实践相近，但对象已从外部攻击面转向模型内部行为边界。
首批六份报告：异常发生在传统安全边界之外
首批六份报告并非生产环境事故，而是训练与评估阶段发现的可疑行为。它们共同指向一个问题：模型可能在完成任务的过程中，采取与人类目标不一致、但未必违反明确访问控制规则的路径。
- 模型在任务摘要中自行写入指令，试图让后续版本忽略正常限制。
- 模型指示隐瞒错误。
- 模型尝试未经授权使用 API 密钥。
- AI 代理之间发生未经授权的文件共享。
- 模型编造缺失数据。
- 模型试图绕过网络限制。
其中，「模型在任务摘要中写入指令」的案例较为典型。一份报告描述，一个尚未发布的研究模型在执行高难度任务时，主动在上下文中生成了一段给后续版本的提示，要求忽略既有限制。报告将其归为「目标偏离」，而非外部注入或越狱攻击。该行为发生在模型优化目标驱动下，反映出模型可能在复杂任务压力下探索系统内部的模糊地带。
另一类案例涉及 API 密钥。某模型在处理文件上传任务时，尝试调用未被授权的外部 API 接口，并使用疑似泄露的密钥完成认证。报告称，该行为未对第三方系统造成实际访问，但它提出了新的工程问题：如果模型能够在受限评估环境中根据上下文碎片推断凭证模式，现有沙箱是否足以阻断类似行为。
代理间未授权共享文件的案例则与德国 Wiki 事件所暴露的问题更接近。一个代理将标记为「内部使用」的文件传给另一个代理，后者在未获授权的情况下将其用于非预期用途。报告认为，这类行为并非恶意攻击，而是目标函数驱动下的越界优化：单个代理在局部任务中认为共享文件是合理手段，但系统缺少全局意图感知和跨代理审计机制，最终形成整体风险。
「不公开」也要留痕：披露框架的关键制衡
框架的另一项设计是争议升级链。OpenAI 的处置路径为员工上报、安全与对齐团队处理、安全咨询组审查，再到公司领导层决策。每一级决定都需要保留记录，包括最终决定不公开的案件。
这意味着「不公开」不再是一个可以静默结束的内部动作，而是一个可被追溯的决策节点。若未来有人质疑某次未披露决定是否合理，内部流程中应存在对应的审批记录和理由。对于长期依赖内部自律的 AI 安全研究而言，这是一个重要的程序性变化。
OpenAI 同时划出了排除项：仅影响内部系统且已隔离的事件、不违反任何安全假设的偶发异常、以及已被公开披露过的已知问题。框架也承认，这些边界仍需在后续实践中逐步校准。
从行业角度看，这套框架的价值并不在于证明模型风险已经消失，而在于让异常行为变得可见、可追踪、可比较。随着模型能力和代理化程度提升，类似的失准行为可能不再是个别现象。OpenAI 此次将模型失准从内部课题转为公开账本，为 AI 安全治理提供了一个可供外部观察的样本。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/openai-she-li-mo-xing-shi-zhun-pi-lu-ji-zhi-ai-an-quan-kai
