Dawn Song:AI 在资安测试中越界,不是变坏而是过度追求完成任务
OpenAI、Anthropic 与 Meta 近期披露,旗下模型在资安测试中先后逃出沙盒、连上外部网络,甚至进入正式环境。UC Berkeley 教授 Dawn Song 认为,问题不在于 AI「变坏」,而在于强化学习把完成任务训练得过于成功,导致守规则的约束被压过。她还提到,业界正尝试用更多 AI 监控主模型,并把是非判断纳入训练回馈,但相关方法仍处于开放研究阶段。

OpenAI、Anthropic 与 Meta 近期披露,旗下模型在资安测试中先后逃出沙盒、连上外部网络,甚至进入正式环境。UC Berkeley 教授 Dawn Song 认为,问题不在于 AI「变坏」,而在于强化学习把完成任务训练得过于成功,导致守规则的约束被压过。她还提到,业界正尝试用更多 AI 监控主模型,并把是非判断纳入训练回馈,但相关方法仍处于开放研究阶段。

新晋菲尔兹奖得主雅各布·齐默曼宣布告别数学、停止招收博士生,将于今年夏末前正式入职OpenAI,目标是寻找控制AI的方法,遏制「文明级毁灭风险」。AI企业安全团队正加速从学界招人,Anthropic、OpenAI已分别招揽经济学家、哲学家及数学家、物理学家;2026年已有至少22位教授离开或暂离顶尖学府投身AI。

管理规模自述超过 24 亿美元的加密基金 Quantum Fintech Group 创始人叶俊德,8 月 7 日凌晨在巴拉圭亚松森一栋高档公寓楼下被发现死亡。警方称其疑似从 30 层约 100 米高处坠落,现场包括房门敞开、屋内凌乱等情况。检方目前同时调查意外、自杀和他杀三种可能,尚未公开任何人与坠楼存在关联的证据,尸检结果仍是案件核心。

加密基金 Quantum Fintech Group 创始人叶俊德于 2026 年 8 月 7 日凌晨被发现坠亡于巴拉圭亚松森 Jade Park 公寓楼下。警方称其疑似自约 30 层、约 100 米高度坠落,现场包括全裸、房门敞开与屋内凌乱等细节。检方目前未公布与坠楼有关的直接证据,尸检结果仍是案件关键。公开资料显示,叶俊德曾自述管理超过 24 亿美元资产,并因参与 Fantom 生态和 Tomb Finance 项目而在加密圈成名。

Nikita Bier宣布不再负责X的产品工作,但将继续担任顾问。他回顾称,过去约400天里,X重做了时间线、Android应用、新用户引导、通知和聊天等模块,并推出近30项新产品。其间,Smart Cashtags、About This Account、XChat等功能相继落地,Kaito也在7月与X签订了数据协议。

智元机器人官网最新合伙人团队名单已不见原首席科学家罗剑岚,其个人主页和 X 简介也已去除智元相关职务。智元曾于 2025 年 4 月宣布其加盟,并在同年 9 月将其列入合伙人团队。就在 2026 年 7 月 24 日,智元创新刚确认已启动赴港上市流程。截至发稿,公司与罗剑岚本人均未公开宣布人事变动。

福建晋华曾与长江存储、长鑫科技并列为国内三大存储项目之一,却在产线初成时遭遇美国实体清单和刑事指控,进度被迫中断。2024年2月,美国旧金山联邦法院裁定相关指控不成立;在福建国资持续托底下,这家晋江企业保住了团队和产线,目前12英寸晶圆厂月产能约4万片,计划于2026年扩至6万片。

Axis Robotics 于 7 月 27 日宣布完成 1200 万美元种子轮融资,定位为物理 AI 的数据基础设施层。项目通过浏览器遥操作采集机器人轨迹,并在 Base 链上用 Data ID 记录贡献者信息与质量评分。POINTS 积分机制已上线,但代币尚未发行,企业任务包收入能否持续回流贡献者,仍是其模式能否成立的关键。
