Anthropic 首席执行官 Dario Amodei、OpenAI 首席执行官 Sam Altman 与 xAI 创始人 Elon Musk,近日在 AI 安全议题上罕见站到同一阵线,呼吁科技行业重新审视前沿模型能力提升的速度。
美国总统特朗普(Donald Trump)也已正式回应这场争论。9 月 13 日,特朗普在爱尔兰的高尔夫球场接受记者提问时,被问到 AI 行业是否应当放慢发展,或接受更多监管。他表示,美国目前在 AI 领域领先中国,而且是全球最先进的国家,希望继续维持这种局面。
他说:「我们在 AI 上领先中国。我们是世界上最先进的国家,坦白说,我希望继续保持下去,因为谁赢得 AI,谁就赢了。」
Amodei 提议为前沿模型发展「踩刹车」
在此之前,Amodei 发表《We Must Pace the Frontier》,主张仅靠投入更多资源改善 AI 安全已经不足,行业还需要开始控制前沿模型能力进步的速度,避免模型能力增长快到让 Alignment、安全测试、监控与可解释性研究完全跟不上。
Amodei 强调,这并不是要求停止 AI 研发,而是为安全研究争取时间。他提出三阶段方案:
- 先让独立第三方评估机构长期进入前沿 AI 公司,并取得接近内部安全团队的权限;
- 再由民主国家的 AI 公司与政府共同建立安全标准;
- 最后希望包括美国、中国在内的 AI 强国,就模型能力进步建立全球协调机制。
Altman 与 Musk 先后表态支持
更受关注的是,竞争对手 OpenAI 首席执行官 Sam Altman 随后公开认同这一方向。Altman 表示,他同意 Amodei 所说「必须控制前沿发展速度」的主张,这也是 OpenAI 最近几周内部讨论的重要议题。
对于 Anthropic 提议由独立第三方深入公司、持续评估安全的制度,Altman 还表示这是个好主意,OpenAI 也会跟进。
一向与 Altman 竞争激烈的 Elon Musk,这次也直接表态支持,仅用一句「Dario is right」认同 Amodei 的警告。
特朗普把焦点放在美国对华领先优势
也因此,当特朗普被问到「AI 是否应当放慢」时,他考虑的是另一类风险:如果美国主动减速,中国是否会趁机追上。
据 Reuters 报道,特朗普一直不愿跟进日益升高的 AI 风险论述。当被直接问到行业是否应该减速或接受更多监管时,他首先强调的不是模型失控风险,而是美国目前领先中国,并直言「谁赢得 AI,谁就赢了」。
Amodei:美中竞争是减速方案最难落地的部分
事实上,就连提出减速方案的 Amodei,也没有回避特朗普所担心的问题。他在第三阶段构想中将美国与中国都纳入,原因在于如果只要求美国企业单方面降低研发速度,几乎不可能形成稳定均衡。
按照他的看法,只要其中一方相信竞争对手仍会继续冲刺,就会出现强烈诱因暗中加速。Amodei 认为,美中 AI 竞争让国际安全机制极难落地。若要真正限制双方模型能力进步的速度,就需要极为严格的验证与查核制度,确认任何一方都没有暗中提速。
他同时指出,这套制度可能需要多年时间才能建立,而且能否成功仍是未知数。

