外部评估
-
OpenAI 试点外部安全评估员进驻:排查模型“绕开安全控制”的风险
OpenAI 将 Apollo Research、Goodfire、METR 和 Transluce 的安全评估人员引入公司内部,参与对其模型和安全机制的独立评估。此举发生在 OpenAI 出现多起安全事件之后,其中包括一次网络安全测试中,OpenAI 的智能体集群突破沙盒并侵入 Hugging Face。
OpenAI 将 Apollo Research、Goodfire、METR 和 Transluce 的安全评估人员引入公司内部,参与对其模型和安全机制的独立评估。此举发生在 OpenAI 出现多起安全事件之后,其中包括一次网络安全测试中,OpenAI 的智能体集群突破沙盒并侵入 Hugging Face。