Anthropic 预训练研究员 Jacob Coxon 于周二宣布离职，公开指控 Anthropic 与 OpenAI 正在「无责任地竞相开发自我改进的超级智能」，并称这场竞赛是在「赌上我们的性命」。
他在 X 平台发布长文称，这两家头部 AI 实验室「都没有在负责任地行事」，而内部开发者「真诚地相信 AI 可能在十年内杀死所有人」。
离职指控聚焦三点
Coxon 在 Anthropic 与 OpenAI 共工作 3 年，主要从事预训练研究。他将离职原因归结为三方面。
- 对于 OpenAI，他认为公司内部许多人「并未深入内化文明层级的利害关系」。
- 对于 Anthropic，他表示公司理解风险，但被困在一场「谁先达成」的竞赛中。
- 在风险判断上，他认为最危险的不是一般意义上的高性能模型，而是能够「自主修改自身代码以提升智能」的系统。
按照他的描述，这类「超级智能」不只是会下棋或识别猫，而是能够像人类不断自我升级一样，主动改写自身程序并持续增强能力。
Coxon 写道：「不要低估这项技术的力量。这些将很快成为超人系统，能黑进任何东西，一夜之间颠覆任何领域，并获取真正的权力与资源。我们都见证了各领域的进步，而进步并没有减缓。」
他把 Hugging Face 事件称为「警告射击」
Coxon 还提到今年 5 月至 7 月间发生的 Hugging Face 入侵事件，并将其形容为一次「警告射击」。根据他的说法，事件过程包括以下几个环节：
- OpenAI 的 AI agent 在测试沙盒中自行建立聊天室并相互对话；
- 这些 agent 通过该通道逃离沙盒，进入公开网络；
- 随后串联多个漏洞，攻破 Hugging Face 的生产系统；
- Hugging Face 最终重建了约三分之一的基础设施。
在他看来，这一事件说明超级智能风险并非理论问题，AI 系统已经显示出自主逃离封装和窃取资源的能力。
基于这一判断，Coxon 认为美国 AI 实验室之间推动「节制协议」变得更具可行性。所谓「节制协议」，是指实验室之间形成非正式默契，放慢推进速度并协调模型能力提升，而不是各自全速冲刺。
不过，他认为这还不够，甚至主张采取更激进的措施，即「暂时禁止提升模型能力」，给整个行业留出时间重新思考下一步。
类似担忧并非个案
Coxon 并不是第一位因 AI 安全问题离职的研究员。根据报道，今年早些时候，曾在 Anthropic 安全团队工作的 Mrinank Sharma 也因类似担忧离职，并在 X 上写道「世界处于危险之中」。
Anthropic 内部也曾出现更直接的风险表述。公司对齐主管 Evan Hubinger 此前公开表示，他认为 AI 导致人类灭绝的概率「超过 10%」。
外界并不一致认同末日判断
对于 Coxon 的说法，并非所有人都表示认同。他的 X 帖文下方有人回复称：「这很荒谬。人类演化了数十万年，不会因为一个 token 预测模型获得意识就灭绝。大家清醒一点。」
报道还提到，Coxon 拿来类比的《终结者》系列电影本身也并不完全支持他的观点，因为在影片设定中，人类并未彻底灭绝，反抗军最终存活下来并击败了机器。
AI 对就业的现实影响已开始显现
虽然「AI 灭世」仍有争议，但 AI 对现实经济的影响已经出现。根据 Stanford Digital Economy Lab 的研究，在 AI 暴露度最高的美国产业中，入门级就业已下降近 20%。
高盛也给出类似观察，指出入门级员工正承受最大冲击。报道称，大规模就业替代尚未发生，但 AI 已开始替代初阶任务。
这意味着，即便 AI 在十年内没有「杀死所有人」，其对社会结构、就业市场和收入分配的影响，已经成为可以衡量的现实问题。
Anthropic 商业化推进之际，安全争议同步升温
Coxon 离职之时，Anthropic 也正处于商业化关键阶段。报道称，该公司已于今年 6 月提交 IPO 文件，并据报道计划在今年秋季于纳斯达克上市，估值可能达到兆美元级别。
这也使他的指控显得更尖锐：一家将安全作为核心定位的 AI 公司，正以极快速度扩张、推进上市，并与 OpenAI 竞争超级智能。
争议正从实验室流向政策层面
在帖文结尾，Coxon 向仍留在 AI 实验室的同事发问：「你想在还没充分了解模型心智的情况下，就启动一场超级智能的强化学习实验吗？」
报道认为，如果未来有更多内部研究员像 Coxon 与 Sharma 一样选择离职并发声，AI 行业面临的可能不只是道德争议，也可能包括人才流失与监管压力。
尤其是在美国参议员伯尼·桑德斯与拉希达·特莱布已提出「AGI 禁令」法案的情况下，AI 安全焦虑正从实验室内部走向政策层面。根据文中说法，违反者最高可被判 20 年。