OpenAI 解散灾难级 AI 风险评估团队,相关职能并入现有研究线

OpenAI 解散灾难级 AI 风险评估团队,相关职能并入现有研究线

N
News Editor
2026-08-16 13:06:19
据《金融时报》报道,OpenAI 已于 7 月底解散负责评估前沿模型重大与灾难性风险的 Preparedness Team,原先集中在该团队的工作转由现有组织中的资深成员分别负责生物安全、网络安全等领域。该团队成立于 2023 年 10 月,负责未发布模型的能力测试与红队评估。此次调整延续了 OpenAI 近年将独立安全团队并入研究和产品流程的做法。

据《金融时报》报道,OpenAI 已在 7 月底解散专门评估前沿模型重大与灾难性风险的 Preparedness Team。原本集中在这一团队内的工作,没有停止,而是改由不同资深成员分别负责生物安全、网络安全等风险领域,并整合进现有研究团队。

Preparedness Team 负责什么

OpenAI 在 2023 年 10 月正式成立 Preparedness Team,最初由麻省理工学院教授 Aleksander Madry 领导。这个团队并不负责一般的 ChatGPT 内容审核,而是评估更极端的 frontier AI 风险,也就是模型是否已经具备足以造成重大社会伤害的能力。

OpenAI 当时列出的主要研究方向包括:

  • 网络安全攻击
  • 化学、生物、放射性与核风险(CBRN)
  • 大规模说服与操纵
  • AI 自主复制与适应

该团队的工作还包括为尚未发布的模型进行能力测试和 red teaming,并尝试提前判断模型能力是否跨过危险门槛。到 2025 年,OpenAI 又更新了 Preparedness Framework,加入 Capabilities Report 与 Safeguards Report。

单一团队被撤,职能改由分线负责

《金融时报》援引多名知情人士称,OpenAI 在 7 月底解散 Preparedness Team 后,并未完全停止相关工作。新的安排是把不同风险领域交给现有组织中的资深员工处理,例如生物安全和网络安全风险分别由对应团队负责。

原 Preparedness Team 负责人 Dylan Scandinaro 已转向研究另一个更前沿的安全问题:Recursive Self-Improvement,即递归式自我改进 AI。按文中描述,这类 AI 不只是执行任务,也开始能协助改善自身能力,甚至训练下一代模型。

OpenAI 联合创始人 Greg Brockman 对这次组织调整的解释是,随着模型技术快速进步,公司需要「更强健的安全措施」,因此正把研究、安全和网络安全工作更深度地整合进模型开发流程。

OpenAI 近年持续重组独立安全团队

Preparedness Team 的解散,并不是 OpenAI 第一次撤掉独立的 AI 安全组织。

2024 年,OpenAI 解散了由联合创始人 Ilya Sutskever 与 Jan Leike 领导的 Superalignment Team。这个团队原本专门研究如何控制未来可能比人类更聪明的超级智能系统。Jan Leike 在离职时公开批评,OpenAI 的「安全文化与流程已经让位给更亮眼的产品」。

此后,AGI Readiness、Mission Alignment 等不同安全与长期治理团队也陆续被重组或解散。OpenAI 的说法一直是,不再把安全视为独立的最后检查程序,而是希望直接整合进研究与产品开发。

今年 7 月,OpenAI Safety Systems 负责人 Johannes Heidecke 也宣布离职。随后,OpenAI 将安全团队统一交由研究与安全副总裁 Mia Glaese 管理。研究长 Mark Chen 当时表示,模型训练速度越来越快,发布时间周期越来越短,安全工作必须更早进入研究和产品决策。

本文最初由 Bit.Fan 发布。 欲了解更多加密货币新闻与市场洞察,请访问 www.bit.fan.
210

免责声明:

本平台展示的市场信息、项目资料与第三方内容仅用于行业信息分享,不构成任何形式的投资建议或收益承诺。

加密资产交易具有较高风险,用户应充分评估自身风险承受能力并独立作出决策,相关盈亏及法律责任由用户自行承担。