英美议员提出议案，拟禁止开发超越人类智能的 AI 系统

据 TIME 报道，美国参议员 Bernie Sanders 计划提出《Ban Artificial Superintelligence Act》，拟禁止开发超越人类智能的 AI 系统，并在安全规则确立前暂缓其他高级 AI 研究。

英国议员 Alex Sobel 也已在下议院提出相关议案。这被称为 G7 议会中首个试图禁止「superintelligent AI」的法案，议案将其定义为可能削弱国家权力的系统。

两项提案聚焦全球禁令与政府新权力

按照报道，这两项法案都要求美国和英国政府推动达成全球条约，在全球范围内禁止开发超智能 AI，同时赋予政府监控和限制潜在「前驱系统」的新权力。

参与起草机构与支持者表态

ControlAI 参与了法案起草，并称这项行动是未来 AI 监管的起点。

前 OpenAI 员工 Daniel Kokotajlo 与学者 Stuart Russell 警告，如果缺乏监管，AI 可能导致严重基础设施破坏，甚至出现人类失控的情况。