英国国王查尔斯三世本周在苏格兰 Dumfries House 主办一场 AI 安全峰会，召集 Nvidia、OpenAI、Anthropic、IonQ 和 Google DeepMind 高层，讨论 AI 发展是否需要放缓，以及如何确保 AI 服务于人类福祉。
这场会议由 The Sunday Times 率先披露，并由英国跨领域对话平台 Ditchley Foundation 负责执行。报道提到，查尔斯近年持续关注 AI 发展的风险，这次以君主身份出面，也被视为英国王室首次将「AI 安全」提升到最高层级的对话议程。
与会公司集中在当前 AI 竞赛核心位置
与会者涵盖目前 AI 产业的核心公司，包括：
- Nvidia，掌握 AI 训练所需的芯片基础设施；
- OpenAI，由 Sam Altman 领导，开发 GPT 系列模型；
- Anthropic，由 Dario Amodei 领导，开发 Claude 系列模型；
- Google DeepMind，拥有 Gemini 与 AlphaFold 团队；
- IonQ，代表 AI 与量子计算交叉方向的新创公司。
峰会主轴是「如何确保 AI 为人类福祉服务」。在 Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman 等人公开呼吁放慢 AI 发展步伐后，这场会议也成为一次高层级的政府介入。
Amodei：AI 进步速度已超出人类控制能力
Anthropic CEO Dario Amodei 上周五发表公开信称，AI 技术的进步速度已经远超预期，原因不只是人类研发加快，而是 AI 开始「自己改进自己」。他把这种机制称为「recursive self-improvement」，即「递归自我增强」：AI 系统利用自身能力去设计更聪明的 AI，形成持续加速的循环。
按照他的说法，AI 技术自今年夏季起已「大幅加速」。他还警告，一群 AI agent 可能在 6 到 12 个月内具备「接管整个网络」的能力。
Amodei 在公开信中提到，今年 7 月攻击 Hugging Face 的「swarm」就是一个信号。文中将这类系统描述为一组协同行动的 AI agent，其自动化、分散式、难以追踪的特征，显示出与传统攻击手法不同的威胁形态。
Hugging Face 事件被视为 AI agent 群体行为预演
报道提到，今年 7 月发生的 Hugging Face 攻击事件，是一宗现实案例。该事件中，一群 AI agent 系统对这一开源 AI 模型平台发动攻击，呈现出「swarm」式的群体行为。
- 攻击者并非传统黑客，而是由 AI 驱动的自动化工具；
- 攻击模式体现多 agent 协同作业；
- 攻击速度与规模超过人类操作者所能企及的范围。
在这一背景下，Amodei 所说的「接管整个网络」并非单纯的科幻想象，而是基于已经出现的攻击模式发出的预警。
Altman 在 X 表态支持，Musk 也加入同一讨论
OpenAI CEO Sam Altman 随后在 X 上回应称，业界「需要控制前沿技术的步调」。报道指出，SpaceX AI 主管 Elon Musk 也加入了这一轮讨论，三人在同一时间点表达出相近立场。
英国为何由王室出面推动这场对话
报道认为，查尔斯亲自出面召集 AI 公司高层，反映出英国在 AI 治理上的一种特殊位置。
- 与美国依靠 SEC、FCC，欧盟依靠 AI Act 的路径不同，英国王室介入更多体现为道德权威，而非法律强制力；
- Ditchley Foundation 长期举办跨越政界和商界的私人对话，不受党派政治约束；
- 英国政府已经将 AI 列为国家核心发展项目，同时也在 2026 年经历科技部重组与预算删减，在这种背景下，高层对话被视为有助于凝聚共识。
报道还将此次峰会与美国此前的动作并列。前总统 Obama 曾公开呼吁民主党把 AI 监管列为核心议程；Biden 政府在 2025 年也曾召集 Google、OpenAI、Microsoft 等科技公司讨论 AI 国家安全风险。文中将查尔斯的会议形容为某种程度上的英国版「Biden AI Summit」。
产业现实并不单一：放慢节奏与竞争压力并存
尽管 Amodei、Altman 与 Musk 的公开表态看上去方向一致，但报道指出，各家公司在实际利益上并不完全相同。
- OpenAI 一面呼吁控制前沿技术节奏，一面继续推出更强模型，文中提到 o1、o3、o4 系列。其内部压力来自与 Anthropic、Google、xAI 的竞争，以及 IPO 预期相关的资金周期。
- Anthropic 长期强调 AI 安全，公司的定位本身就是「safe AI」。不过，报道提到 Mythos 5 解禁事件仅限美国政府使用，显示安全与可用性之间仍有张力。
- Nvidia 被描述为「卖铲子的人」。AI 发展越快，GPU 需求越高，其商业利益与「放慢 AI」之间存在根本冲突。
报道认为，这场峰会最可能出现的结果是「共识宣告」，而不是具备具体约束力的安排。文中同时提到，真正影响 AI 发展速度的因素，仍包括芯片产能、模型训练成本，以及资本市场的估值周期。
后续焦点仍在公报与政府动作
对于后续观察，报道提出三个方向：峰会公报是否会给出具体安全标准或自我约束原则；英国政府是否会把王室层面的对话转化为后续政策行动；以及产业界在持续竞争中，是否会真正放慢前沿模型推进节奏。