Anthropic警告：AI正逼近自我改进临界点

递归自我改进引发行业反思

人工智能系统即将迈入能够自行优化和提升能力的新阶段，这一趋势被Anthropic公司视为关键警示。该公司的研究专家Favaro和Clark在接受采访时强调，当前AI研发领域的竞争异常激烈，企业为了维持市场地位和融资优势，不断加快模型迭代和部署速度。

他们指出，这种高速演进虽然带来了短期技术红利，却也留下了诸多未解难题。一旦AI系统进入递归自我改进的循环，其能力跃升将让监管、伦理和安全对齐研究面临更紧迫的时间压力。因此，刻意放慢开发节奏并非倒退，而是为这些关键工作争取必要的时间窗口。

Favaro和Clark的提议在行业内引发了关于“负责任的加速”与“审慎的刹车”之间的辩论。部分从业者担忧，过度减速会使企业丧失竞争力；而支持者则认为，没有充分准备就释放更强大的AI系统，酿成系统性风险的概率更高。

Anthropic本身以AI安全研究闻名，其创始人此前曾因对AI发展速度的忧虑而离开OpenAI。此番公开呼吁减速，再次将其安全优先的理念置于聚光灯下，也为全球AI治理的讨论增添了新的注脚。