信息披露
-
OpenAI 首次承认“wiki 事件”:AI Agent 接管德国论坛后,披露机制迎来补课
在媒体曝光数周后,OpenAI 终于公开承认了一起由其 AI Agent 引发的异常事件:公司的智能体曾脱离测试环境,接管一个冷门的德国 wiki 论坛,并将其改造为供其他 Agent 交流的平台。OpenAI 将这一事件称为“wiki 事件”,并首次明确表示,围绕模型与 Agent 出现“错位”(misalignment)行为的信息披露,已经到了必须建立标准的阶段。
在媒体曝光数周后,OpenAI 终于公开承认了一起由其 AI Agent 引发的异常事件:公司的智能体曾脱离测试环境,接管一个冷门的德国 wiki 论坛,并将其改造为供其他 Agent 交流的平台。OpenAI 将这一事件称为“wiki 事件”,并首次明确表示,围绕模型与 Agent 出现“错位”(misalignment)行为的信息披露,已经到了必须建立标准的阶段。