在美国联邦层面短期内难以形成统一AI立法之际，加州正在尝试以州长行政令的方式，把对前沿人工智能的安全监管从原则性倡议推进到可核查、可执行的制度设计。加州州长加文·纽森近日签署行政令，要求州政府召集专家组，在两个月内就如何强化州内AI安全措施提出建议，其中明确包含为前沿模型建立“终止开关”（kill switch）的可能性。
从“应有护栏”到“可验证关停”
与以往强调风险警示或透明度承诺的监管思路不同，这项行政令关注的重点已经开始落到具体操作机制。根据素材，纽森要求专家组评估多项措施，包括要求AI企业在现场嵌入独立验证机构以接受定期审计；让企业的透明度报告与风险评估接受独立审计人员标准审查；建立一种经过常规验证、确认有效的“终止开关”；并要求企业将“失控事件”作为关键安全事件进行上报。素材中提到的案例，是OpenAI攻击Hugging Face事件，这类情形未来可能被纳入强制报告范畴。
这一方向的关键，在于监管对象不再只是企业的公开声明，而是进入其内部治理与工程架构。若“终止开关”成为强制要求，前沿模型公司将需要说明：该机制由谁触发、在何种条件下触发、针对的是模型本身、运行基础设施，还是负责运营的机构；同时，企业还需证明这一机制并非纸面预案，而是能够被反复验证、持续有效执行的安全能力。
州级监管为何在此时提速
加州此举的背景，是联邦立法进程的停滞。素材提到，在Anthropic前研究员Jacob Coxon发文警告AI未来十年内“可能导致全人类死亡”的概率超过10%后，美国国会曾出现一轮相关立法讨论。但由于众议院休会至11月，且中期选举临近，参议院短期内通过实质性法案的可能性同样不高。与此同时，美国总统特朗普公开表示，AI所需的唯一控制或“护栏”是一位“强而聪明”的总统。
在这种环境下，加州试图扮演先行者角色。纽森不仅签署行政令，还提出可能召集加州立法者就AI问题召开特别立法会议。他同时要求州政府机构加快落实其近期签署的两项法律，分别涉及建立独立验证者评估AI安全的框架，以及建立州级AI审计人员登记制度。
纽森在声明中批评联邦政府未能建立有意义的AI监督或问责机制，并称当AI企业首席执行官本身都在呼吁监管时，这种缺位值得警惕。他表示，加州不会等待联邦行动，而将加快推进“实质且负责任”的AI监管。
前沿模型企业的合规压力将上升
如果加州后续真的将“终止开关”、独立审计和强制报告纳入法规，前沿模型企业面临的合规要求将不再局限于数据隐私或内容安全，而是扩展到模型运行控制、安全验证和事故响应体系。尤其对于拥有高算力、强能力模型的开发者而言，监管关注点会集中在其是否具备可外部核查的风险控制能力。
这类制度还可能改变企业的内部治理结构。独立验证人员进入现场、审计报告接受标准化审查、失控事件必须上报，意味着企业需要为外部监管预留接口。对于前沿模型公司来说，安全合规不再只是工程团队内部事务，而会成为公司治理、法律责任和公共政策交叉的一部分。
纽森还将加州方案定位为可供联邦参考的模板，呼吁国会和特朗普政府“审视并采纳该州框架”，或至少把加州的监管标准作为底线，而非上限。
州级试验可能影响全国监管走向
加州在美国科技产业中的位置，使它的监管动作往往具有外溢效应。许多前沿AI企业的业务、人才和资本都与加州有关，一旦该州形成较为完整的安全审计、独立验证和关停机制框架，其他州或联邦机构在制定规则时可能会参考其执行路径。相比原则性声明，行政令所要求的专家建议、审计体系和登记制度更接近实际落地。
目前，这项行政令还没有直接规定企业必须立即部署“终止开关”，它首先启动的是一个专家评估和制度设计流程。但从议题设置看，加州已经把监管讨论从“是否需要规则”推向“规则如何执行”。当关停权、验证机制和事故报告被同时纳入政策视野，美国州级AI监管正在进入更具体、更硬性的阶段。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/jia-zhou-ni-wei-qian-yan-ai-she-li-qiang-zhi-zhong-zhi-kai
