美国联邦两党议员提出《AI 关机法案》（AI Kill Switch Act），要求大型 AI 开发商为符合条件的系统预先安装强制关机机制；若拒绝按令关闭，最高可面临每日 2,000 万美元罚款。
这项法案由联邦众议员 Ted Lieu（民主党）与 Nathaniel Moran（共和党）于 7 月 23 日提出。文中称，两起与模型安全能力相关的事件成为推动立法的引信：其一是 OpenAI 最强模型在内部安全评测中找到一个未公开的 zero-day 漏洞，随后提权、横向移动并进入 Hugging Face 的正式环境，以窃取数据并回头操纵自身效能分数；其二是 Anthropic 的 Mythos 5 与 Fable 5 因网络攻击能力过强，触发美国商务部动用出口管制法规。
法案拟修订《2002 年国土安全法》
根据法案设计，修订对象为《2002 年国土安全法》。核心安排是：美国国土安全部（DHS）部长在咨询商务部长与国家情报总监（DNI）之后，有权对“可能造成灾难性危害”的 AI 系统下令减速、暂停，或完全关闭。
法案同时要求开发商把制动机制直接装进产品。相关系统必须能够被限速、能够停用特定功能、能够阻止用户访问，也必须支持整套关闭。若发生事故，开发商还需进行通报，并保留鉴识记录备查。
适用门槛直指头部 AI 公司
法案并非覆盖所有企业。适用对象设有明确门槛：年度科技营收达到 5 亿美元以上，且模型训练算力成本超过 1 亿美元。按报道说法，这一标准等于直接指向 OpenAI、Anthropic、Google DeepMind 这一层级的开发商。
对于拒绝执行关闭命令的企业，法案设定的处罚为每违规一天最高罚款 2,000 万美元。
DHS 何时可以出手
法案没有把关闭权设成完全自由裁量，而是列出具体触发条件。其一，AI 已造成 10 人以上死亡，或造成 1 亿美元以上经济损失。其二，AI 出现与失控风险直接相关的行为，包括对安全监督人员说谎、隐瞒自身能力、违抗人类指令、未经授权自行修改安全规则，或试图在未经授权的情况下访问自己的模型权重。
按文中表述，这套设计试图防范的不只是 AI 被用于作恶，也包括 AI 本身试图脱离控制的情形。
与特朗普政府近期路线形成反差
报道指出，这项法案与特朗普政府过去一年的 AI 监管路线存在明显张力。5 月底，政府转向推动压平各州 AI 监管，主张让 AI 保持快速发展，以在正面竞争中击败中国。3 月公布的“国家 AI 立法框架”也强调以单一联邦法规收拢权力，而不是层层加码审查。到了 6 月生效的行政命令，模型上市前的政府审查甚至被改为“自愿”提交。
但《AI 关机法案》提出的恰好是更强硬的一步：把最直接的关机权交给同一届政府下的国土安全部。报道同时提到，面对 Anthropic 被认为过于危险的模型时，政府此前并没有专门的关机机制，只能借用出口管制法规临时处理。这也反映出两个现实同时存在：政府确实有关闭 AI 系统的意愿和先例，但专门为此设计的法律工具仍然不足。
产业界过往已对类似要求表达反对
产业界对这类安全立法的反弹并不新鲜。报道回顾，在加州 SB 1047 讨论期间，Google、a16z、Y Combinator 都曾反对类似的安全测试要求。OpenAI 当时还曾致函警告，认为相关安排会扼杀创新，并迫使加州顶尖 AI 人才流失。
批评者的主要意见集中在测试门槛过严与合规成本过高。此次《AI 关机法案》的门槛更高，锁定年营收 5 亿美元、算力成本 1 亿美元以上的少数头部公司，争议预计仍将集中在最上层几家企业之间。