返回核风险

核风险

谷歌
2026-08-27 00:14:14

谷歌重组 DeepMind,约 90 人 AI 责任团队将转入全球事务部门

据《华尔街日报》报道,谷歌计划把约 90 人的 AI 责任团队从 Google DeepMind 调整至集团全球事务部门,重组预计于 9 月初生效。该团队负责评估 AI 模型的化学、生物、放射性和核风险,也研究用户与 AI 的互动及聊天机器人的心理影响。部分员工担心,团队移出 DeepMind 后,对 Gemini 研发的接触与了解会减少,影响独立研究和风险识别。

160
谷歌重组 DeepMind,约 90 人 AI 责任团队将转入全球事务部门
OpenAI
2026-08-16 13:06:19

OpenAI 解散灾难级 AI 风险评估团队,相关职能并入现有研究线

据《金融时报》报道,OpenAI 已于 7 月底解散负责评估前沿模型重大与灾难性风险的 Preparedness Team,原先集中在该团队的工作转由现有组织中的资深成员分别负责生物安全、网络安全等领域。该团队成立于 2023 年 10 月,负责未发布模型的能力测试与红队评估。此次调整延续了 OpenAI 近年将独立安全团队并入研究和产品流程的做法。

730
OpenAI 解散灾难级 AI 风险评估团队,相关职能并入现有研究线
Demis Hassabi
2026-07-15 03:27:19

哈萨比斯称 AGI 或在数年内到来,并主张设立前沿 AI 审查机构

DeepMind 掌舵人、诺奖得主 Demis Hassabis 表示,通用人工智能可能只剩数年时间,其影响规模或达工业革命的 10 倍且推进速度也快 10 倍。他在《前沿AI框架与新时代的曙光》中提出,应设立类似 FINRA 的“标准机构”,对前沿模型进行分级、测试与发布前评审,初期可在模型上线前最多 30 天开展审查,必要时还可协调前沿实验室放缓研发节奏。

1300
哈萨比斯称 AGI 或在数年内到来,并主张设立前沿 AI 审查机构