Altman、Dario主张前沿AI放慢推进,Sacks批评行业协同限速
Anthropic CEO Dario Amodei发文称,前沿AI能力增长已快于安全研究,并提出引入长期第三方评测、民主国家实验室协调安全标准及推动国际协调三步方案。Sam Altman随后表示支持,并称OpenAI也将引入类似独立评测员。美国总统科技顾问委员会联席主席David Sacks则反击称,若企业真担心模型风险,应自行放慢,不该推动全行业一起减速,并质疑这类协调可能接近垄断安排。

Anthropic CEO Dario Amodei发文称,前沿AI能力增长已快于安全研究,并提出引入长期第三方评测、民主国家实验室协调安全标准及推动国际协调三步方案。Sam Altman随后表示支持,并称OpenAI也将引入类似独立评测员。美国总统科技顾问委员会联席主席David Sacks则反击称,若企业真担心模型风险,应自行放慢,不该推动全行业一起减速,并质疑这类协调可能接近垄断安排。

美国和英国议员正分别推动限制“超级智能”的立法方案。美国参议员 Bernie Sanders 与众议员 Greg Casar 公布《禁止人工超级智能法案》方案,拟永久禁止开发和部署超级智能,并在联邦机构制定安全规则前暂停更先进 AI 开发;违规个人最高可判 20 年监禁,企业可能被强制解散。英国工党议员 Alex Sobel 也已提出相关法案,但两项方案目前都较难真正成为法律。

OpenAI 首席科学家 Jakub Pachocki 撰文称,AI 正快速逼近可在多个关键方面推动自身发展的阶段,递归自我改进可能很快到来。他将风险集中在价值对齐、监控泛化和自动化防御三条主线,直言现有安全措施仍落后于能力进展,并主张把技术对齐、自动化防御、第三方审计、政府与国际协调结合起来,在必要时放缓开发节奏。

OpenAI 9月6日首次以内部数据披露“递归自我改进”进展,称已完成去年秋天设定的“自动化研究实习生”目标。数据显示,截至8月中旬,其研究组织中智能体按8小时工作日折算,已实现每1个人类工作日对应3.1个智能体工作日。公司还披露,代码、实验、排障和监控类任务增长明显,但高层规划与方向判断仍主要由人类研究员负责。

OpenAI 首席科学家 Jakub Pachocki 发布长文《An Alien Mind》,称当前 AI 更像无法被完全理解的“异星心智”,并表示全球没有任何一家实验室准备好全速推进。文中提到,OpenAI 已看到递归自我改进(RSI)持续推进的迹象,思维链监控能力却在减弱;他主张将对齐要求升级为全球强制安全法律,并推动前沿研究降速与跨国协调。

OpenAI 9月6日首次以内部数据公开“递归自我改进”进展,称已完成去年秋天设定的“自动化研究实习生”目标。公司披露,截至8月中旬,研究组织智能体产出工作量已达人类研究员的 3.1 倍,多项编码、实验、监控和分析任务的使用持续增长。OpenAI同时强调,复杂任务仍需人工介入,7月和8月还曾因安全事件与模型能力评估收紧部分训练环境和算力分配。

OpenAI首席科学家 Jakub Pachocki 于 9 月 6 日发表《An Alien Mind》,称 AI 已在部分能力上以“具变革性”的方式超越人类,并可能继续走向递归式自我改进。文章回顾 OpenAI 自 2023 年以来对推理模型的观察,指出对齐与监控进展仍赶不上能力增长,尤其在 Astra 世代,可观察模型推理过程这扇“窗口”正在变得不再可靠。他同时表示,若安全信心不足,AI 公司应考虑主动减速。

8 月以来,霍尔木兹海峡部分日度口径下的通行量降至极低水平,但 Brent 原油并未持续站上 100 美元,更多时间仍在 90 美元附近。报道指出,市场当前更倾向把局势理解为通行受阻、成本上升和交付延迟,而非长期全面断供。库存释放、湾外转运、替代出口和买家绕行,被视为几道缓冲机制。后续定价变化,仍取决于库存边际、制裁执行力度以及运输与保险成本的传导。
