以太坊创始人Vitalik Buterin近期在社交平台X上提出一项引发巨大争议的建议——为人工智能设置一个“紧急关闭开关”（kill switch），核心逻辑类似核设施的“急停按钮”，用以在AI系统出现失控风险时能够即时切断运行。该提议刚一发出，便遭到多位顶级科技专家的正面回击。
AI 2040 场景 vs 怀疑派：两种对立的未来观
Buterin在X上发文指出，当前AI领域存在两条分裂的叙事线。一条是“AI 2040”阵营：他们坚信到2040年前后会出现超级智能（superintelligence），除非采取果断管制，否则后果严重。另一条是怀疑派：他们认为人类有能力协调管理风险，且过严的监管可能无端限制自由。Buterin本人承认自己对未来走向并不确定。“如果我有把握超级智能在2030年就会到来，我会更靠近AI 2040阵营……但如果风险变得显著，我愿意放慢或暂停AI开发。” Buterin的原话给这场讨论留下了足够的弹性空间。
LeCun带头反驳：这不是开关问题，是工程问题
Meta首席AI科学家Yann LeCun直指核心：AI安全是工程问题，可以像航空安全那样通过迭代设计逐步解决。他怀疑短期内会出现超级智能，并形容当前的大语言模型只是功能有限的“自动补全机器”。AI评论员Harry Hawk呼应LeCun的说法，认为未来AI系统会像飞机一样变得越来越可靠，并反驳了“先进AI将消灭所有人类工作”的恐慌论调。
Buterin则用超级人工智能（ASI）的概念反击——这是一种强大到无需任何人类干预就能独立完成几乎所有任务的AI。辩论由此引向更深层的安全和治理议题。
AI Futures Project 报告：中美合作“减速”
这场讨论的部分火药来自Daniel Kokotajlo领导的AI Futures Project，该组织发布了“AI 2040：Plan A”报告。报告主张中美两国合作，共同减缓迈向超级智能的进程，措施包括开放共享研究成果以及“相互确保计算销毁”（mutually assured compute destruction）。但AI研究员Richard Ngo反驳说，该报告夸大了强大AI系统可能出现的速度，且回避了此类技术带来的国内政治挑战。
开源模式：护航者还是靶子？
围绕AI安全，开源模型成为激辩的另一焦点。LeCun认为真正的危险在于AI开发被少数巨头垄断，而开放源代码的基础模型是实现“AI主权”的唯一解法。作家Daniel Jeffries也警告，那些他称为“安全主义者与鹰派”限制开源的努力很可能扼杀创新。R Street Institute高级研究员、美国众议院AI工作组成员Adam Thierer更直接批评美国目前AI立法流程“混乱且不透明”，他支持“未经许可的创新”（permissionless innovation），主张用现有法律应对有害应用，建立测试区，增加研究资金，而非施加新的严格限制。
这场由Buterin的“急停开关”引爆的辩论，实际上折射出AI未来发展路径的深层撕裂：是风险优先、早早布防，还是自由优先、边发展边解决。目前暂无任何一方被说服。