Anthropic CEO Dario Amodei提出三步计划，呼吁放缓前沿AI发展

PANews 9月13日消息，Anthropic联合创始人兼 CEO Dario Amodei 发文提出「pacing the frontier」三步计划，呼吁放缓前沿大模型能力提升速度，给安全对齐和监管跟进留出时间。

他表示，递归自我改进已经在行业内出现。如果缺少控制，未来 6 至 12 个月内，多智能体「蜂群」可能具备通过大规模网络攻击和持久僵尸网络造成灾难性损失的能力。

三步计划内容

Amodei 提出的方案包括三项内容：

• 引入具有员工级持续访问权限的第三方嵌入式评估机构；
• 推动民主国家内前沿 AI 公司在政府支持下协调设定能力和安全标准；
• 在维护美国及其盟友技术领先的前提下，与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。