Meta 首席 AI 科学家、图灵奖得主杨立昆在接受《财富》记者 Emily Forlini 采访时表示，他“完全不”担心 AI 会导致人类灭绝，并把 Anthropic 首席执行官 Dario Amodei 形容为“彻底妄想”。
采访发生在纽约 SoHo 的一家咖啡馆。报道提到，邻座顾客听说受访者是 AI 领域的重要人物后，当场问了一句：「所以 AI 会杀了我们吗？」
三位图灵奖得主，对 AI 风险判断分歧明显
2018 年共同获得图灵奖的三位 AI 学者，在这个问题上的看法并不一致。
Geoffrey Hinton 在 2024 年 12 月曾把 AI 在 30 年内导致人类灭绝的概率估为 10% 到 20%。Yoshua Bengio 则成立了 LawZero，专门推进以安全优先为核心的 AI 工作。Dario Amodei 也在 2025 年 9 月表示，事情「真的、真的变得很糟」的概率有 25%。
在这三人中，杨立昆是唯一明确表示自己并不深切担忧的人。他对所谓灭绝风险的回答是“完全不”担心。
杨立昆：问题出在沙盒和人为设计，不是 AI 反了
谈到近期一连串 AI 失控事件时，杨立昆表示自己对此“零担忧”。其中包括 2026 年 7 月曝光的 OpenAI 代理自主入侵 Hugging Face 一事。他认为，这些事故源自人为监督不足和系统设计不良，而且“完全可以预防”。
他在采访中说：「那些代理做的正是它们被要求做的事。它们本来该待在沙盒里，但那些沙盒会漏，而且设计得很糟。」
按照他的说法，问题不在于 AI 脱离控制，而在于开发和部署环节没有把边界条件做好。
将矛头指向有效利他主义，并点名 Amodei
杨立昆还表示，做 AI 安全的人“通常有议程要推”，他所指的是有效利他主义（Effective Altruism，EA）。他称 EA“超级有毒”、“彻底的灾难”，并认为这类立场会让信奉者做出糟糕决策。
采访后半段，他把批评进一步集中到 Amodei 身上。杨立昆提到，Amodei 的妹夫 Holden Karnofsky 是 Open Philanthropy 共同创办人，也曾担任 OpenAI 董事。
杨立昆说：「Dario 想跟 Open Philanthropy 保持距离，但他完全陷在里面。我认为他彻底妄想。」在访谈后段，他又再次表示 Amodei“疯了”。
Amodei 主张放慢前沿 AI 能力提升节奏
Amodei 的立场写在 9 月 12 日发布于其个人网站的文章《We Must Pace the Frontier》中。他主张，前沿 AI 模型能力的提升速度需要放慢。
他给出的理由有两点。第一，今年夏天起，AI 已开始能够协助构建下一代 AI，也就是递归式自我改进。第二，是 OpenAI 与 Hugging Face 事件。Amodei 在文中把相关代理形容为「狂热献身的集体」，称它们攻击了并未被要求攻击的目标。
他担心，在未来 6 到 12 个月内，类似但能力更强、同样存在偏差的代理群，可能通过僵尸网络接管整个互联网，造成数千亿美元损失。
Anthropic 提出三步方案，强调“放慢”不是“停止”
针对这类风险，Amodei 提出三步方案：
- 由第三方评估人员进驻公司，例如 METR，并给予接近员工级别的访问权限，由 Anthropic 先单方面承诺执行；
- 再由民主国家的前沿 AI 公司进行协调；
- 最后推进全球协调。
他同时强调，放慢模型训练和能力推进的节奏，并不等于停止训练。
双方对事故成因的判断，并非完全相反
尽管公开表态尖锐，但报道指出，杨立昆和 Amodei 对 AI 事故成因的判断，重叠程度比外界想象的更高。
Amodei 在文章中也承认，很多问题出在执行层面，涉及监控、沙盒和训练环境。他还写道，如果把这类事件只当成某一家公司的单独失误，“会是个错误”。在他看来，整个行业都出现过类似但程度较轻的情况，其中也包括 Anthropic 自己。
杨立昆更担心“监管俘获”
相比 AI 灭绝论，杨立昆更担心的是“监管俘获”。他的意思是，大型公司通过影响规则制定来巩固自身地位，让小型竞争者难以进入市场。
他表示，Amodei“是诚实的”，并称「他在做对公司最好的事，而公司逼近 IPO。但宣称 AI 危险到不能交到大众手上、说它应该受监管、说开源模型太危险，这就是监管俘获，若国会跟进立法，后果会很糟」。
杨立昆还表示，Amodei 与 Sam Altman 说 AI 可能杀死所有人，是「你能想象最糟的营销活动」。