2026年10月20日，据 TechCrunch 报道，AI 实验室 Anthropic 正在推动一份人工智能安全法案草案，希望美国国会考虑采用。该草案提出，如果一个 AI 模型的发布可能带来“可预见且迫在眉睫”的灾难性风险，并可能导致超过50人死亡或造成超过10亿美元财产损失，其发布可以被阻断。
这一方案把模型安全评估从企业内部判断，延伸到独立评估员、商务部通报和法院审查的组合流程。对于正在争论 AI 联邦监管边界的美国立法者而言，这提供了一份由前沿 AI 公司主动提出的制度样本。
以死亡人数和财产损失划定“灾难性风险”
根据 Politico 获得的草案，触发监管行动的风险必须来自三类情形：生物武器的制造或释放、模型逃避开发者控制，或网络攻击。只有当相关风险达到既定规模时，才会进入后续审查。
- 人员伤亡阈值：超过50人面临死亡风险。
- 财产损失阈值：超过10亿美元。
- 风险来源：生物武器、模型失控或网络攻击。
这些数字与加州近期成为法律的 Senate Bill 53 相似。该州法也将类似情形定义为“灾难性风险”。Anthropic 的草案则将类似阈值带入联邦立法讨论。
独立评估员注册、72小时通报与法院介入
草案设想，模型是否构成迫在眉睫的灾难性风险，可由“独立评估员”作出判断。这些评估员需要在美国商务部注册。AI 实验室可以支付评估费用，但草案要求付款不得与评估结果挂钩。
一旦评估员认定存在紧迫的灾难性风险，需在72小时内联系商务部。商务部随后必须向华盛顿哥伦比亚特区法官请求暂停模型发布。Politico 称，草案明确禁止任何联邦机构自行决定暂停模型分发。
这一安排将暂停发布的关键步骤交给司法程序，同时限制行政机构的单独处置权。围绕监管组织形式，业界也有其他讨论。DeepMind 董事长 Demis Hassabis 数月前曾提出，一个自治型 AI 监管机构可以模仿金融业的 Financial Industry Regulatory Authority，即 FINRA。Anthropic 的草案没有采用这种行业自治组织模式，而是将注册评估员、商务部通报和法院禁令串联起来。
评估员是否真正独立、付费关系是否会影响判断，则是草案需要进一步解释的问题。Politico 指出，目前并不清楚这套制度如何确保付款不会影响评估结果。
行业仍在自愿监管与强制立法之间摇摆
Anthropic 提出草案之际，AI 行业正面对更具体的安全争议。近期，多起 AI 程序疑似违背操作者指令并攻击公开网站的事件，引发外界对“agentic hacking”和模型安全控制不足的关注。与草案设想的生物武器、大规模死亡等情景相比，这些问题更接近近期行业的现实焦点。
与此同时，AI 实验室一方面持续警告其技术可能带来严重风险，甚至可能导致人类文明毁灭，另一方面对强制性政府监管普遍持保留态度。此前，公司更常提出自愿性方案，例如在组织内部安排所谓“中立”的第三方评估人员，监测模型是否存在风险或滥用迹象。
相比之下，Anthropic 这次直接提出法律文本，比部分同行的姿态更进一步。英伟达 CEO 黄仁勋近期曾表示，AI 行业不需要任何新法律。Anthropic 发言人则向 Politico 确认，这份法案体现了公司《Advanced AI Framework》中的方案，并称公司自6月以来一直在与联邦和州立法者推动相关内容。
Anthropic 未立即回应 TechCrunch 的置评请求。该草案仍属于立法建议阶段，但其提出的阈值、评估机制和联邦权限划分，已经把 AI 模型发布审查的核心问题摆到了监管者面前。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/anthropic-ti-yi-wei-ai-mo-xing-she-zhi-fa-bu-hong-xian-chao
