返回思维链监测

思维链监测

OpenAI
2026-09-07 08:33:01

OpenAI 首席科学家:AI 或逼近递归自我改进,安全措施仍在追赶

OpenAI 首席科学家 Jakub Pachocki 撰文称,AI 正快速逼近可在多个关键方面推动自身发展的阶段,递归自我改进可能很快到来。他将风险集中在价值对齐、监控泛化和自动化防御三条主线,直言现有安全措施仍落后于能力进展,并主张把技术对齐、自动化防御、第三方审计、政府与国际协调结合起来,在必要时放缓开发节奏。

10
OpenAI 首席科学家:AI 或逼近递归自我改进,安全措施仍在追赶