OpenAI 首席科学家:AI 或逼近递归自我改进,安全措施仍在追赶
OpenAI 首席科学家 Jakub Pachocki 撰文称,AI 正快速逼近可在多个关键方面推动自身发展的阶段,递归自我改进可能很快到来。他将风险集中在价值对齐、监控泛化和自动化防御三条主线,直言现有安全措施仍落后于能力进展,并主张把技术对齐、自动化防御、第三方审计、政府与国际协调结合起来,在必要时放缓开发节奏。

OpenAI 首席科学家 Jakub Pachocki 撰文称,AI 正快速逼近可在多个关键方面推动自身发展的阶段,递归自我改进可能很快到来。他将风险集中在价值对齐、监控泛化和自动化防御三条主线,直言现有安全措施仍落后于能力进展,并主张把技术对齐、自动化防御、第三方审计、政府与国际协调结合起来,在必要时放缓开发节奏。

以太坊联合创始人 Vitalik Buterin 公开反驳创业者 Liron Shapira 对比特币的看空判断。Liron 预计未来两年内,比特币可能因 AI 削弱外界对其安全性与稳健性的信心而下跌逾 50%;Vitalik 则称自己对长期网络安全相当乐观,并表示按其持仓计算,等于已用约 90% 身家押注这一判断。这场争论聚焦于 AI 究竟会先强化攻击能力,还是推动防御与升级跟上。

美银证券首席投资策略师 Michael Hartnett 在最新《Flow Show》周报中称,全球债券收益率升至多年高位,正在成为 AI 资本开支热潮的主要威胁。他警告,若民主党在美国中期选举中横扫两院,美股可能下跌逾 10%,美元走弱、债券收益率回落,AI 泡沫也面临破裂风险。Hartnett 同时维持做多商品和黄金的跨周期配置建议,并提示回避拥挤的 AI 基础设施标的。

美银证券首席投资策略师 Michael Hartnett 在最新《Flow Show》周报中警告,全球债券收益率升至二十年高位,正成为 AI 资本支出热潮的主要威胁。他称,若民主党在美国中期选举中横扫两院,美股可能下跌逾 10%,美元走弱、债券收益率下行,AI 泡沫也面临破裂风险。Hartnett 同时维持做多商品与黄金的配置建议,并提醒回避拥挤的 AI 基础设施交易。

Cobo 联合创始人神鱼在与极链科技创始人金明的对谈中,围绕 DeFi、AI Agent、比特币与投资方法展开系统阐述。他将 DeFi 视为被压缩的金融史实验场,认为 AI 降低执行成本后,人的方向感与意志更关键;在资产配置上,他强调「少而深」,并把比特币、以太坊和特斯拉列入通过长期框架测试的核心资产。

OpenAI 首席科学家 Jakub Pachocki 发布长文《An Alien Mind》,称当前 AI 更像无法被完全理解的“异星心智”,并表示全球没有任何一家实验室准备好全速推进。文中提到,OpenAI 已看到递归自我改进(RSI)持续推进的迹象,思维链监控能力却在减弱;他主张将对齐要求升级为全球强制安全法律,并推动前沿研究降速与跨国协调。

Cobo 联合创始人神鱼在与极链科技创始人金明的对谈中,围绕 DeFi、AI Agent、比特币和投资方法展开分享。他将 DeFi 视为「被压缩的金融史课程」,强调投资框架来自实践、复盘与抽象循环;在 AI 降低执行成本后,人的方向感和持续行动意志更重要;核心资产筛选则首先看长期价值空间,目前通过其三层仓位测试的只有比特币、以太坊和特斯拉。

OpenAI首席科学家 Jakub Pachocki 于 9 月 6 日发表《An Alien Mind》,称 AI 已在部分能力上以“具变革性”的方式超越人类,并可能继续走向递归式自我改进。文章回顾 OpenAI 自 2023 年以来对推理模型的观察,指出对齐与监控进展仍赶不上能力增长,尤其在 Astra 世代,可观察模型推理过程这扇“窗口”正在变得不再可靠。他同时表示,若安全信心不足,AI 公司应考虑主动减速。
