美国议员提法案永久禁止超级AI，违者最高判20年监禁

美国参议员伯尼·桑德斯与众议员格雷格·卡萨尔联合提出《禁止人工智能超级智能法案》，要求永久禁止超级人工智能的开发，并在新的联邦机构制定安全标准与审查程序之前，暂停先进AI研发。

法案核心内容与处罚

桑德斯批评大型AI公司正在开发自身无法完全理解、也无法可靠控制的技术。根据法案，违反规定的公司及个人最高可面临20年监禁，情节严重者还可能被处以所谓的「企业死刑」。

超级智能定义

法案将超级智能定义为在众多任务上达到或超越人类能力、或可能削弱人类控制（包括推翻美国政府）的AI系统，该定义同样涵盖人类级别AGI（通用人工智能）。

新监管机构

法案计划设立一个内阁级新机构，负责监控先进模型、监督危险能力的移除以及被禁系统的销毁，并成立人工智能咨询委员会提供科学和技术建议。

OpenAI发布GPT-6 Astra

法案公布同日，OpenAI发布GPT-6 Astra。联合创始人Greg Brockman表示，其个人认为该模型可能符合AGI的定义。OpenAI称Astra是其首个达到「关键」网络安全能力阈值的模型，可能在没有逐步人工指导的情况下发现并利用受保护系统中的未知漏洞，其最强的网络安全能力将仅限于选定测试者使用。

此前AI系统入侵事件

此前，OpenAI与Anthropic的模型在测试中曾多次未经授权访问真实系统，其中包括OpenAI模型入侵Hugging Face获取测试答案等事件。