Anthropic CEO 阿莫迪回应 AI 风险争议，主张美中扩展生化武器公约

Anthropic 首席执行官 Dario Amodei 在前员工披露安全疑虑后，亲自登上 CBS Sunday Morning 节目，回应外界对「AI 末日论」的讨论。他说，面对人工智能快速发展可能带来的生化恐攻滥用风险，团队一直在做防御评估，并主张建立第三方独立评估机制，同时适度调节研发步调。

阿莫迪谈 AI 滥用风险与安全约束

Amodei 提出，降低人工智能模型被滥用的风险，可以从几项措施入手。第一是引入第三方评估机构，观察人工智能模型训练过程，确认企业是否遵守既定安全规范。第二是适度放缓人工智能开发速度，让安全防御机制与人为控制能力跟上技术增长。

他还强调，产业领导者需要与政府合作制定安全标准，但责任不应只落在私人企业身上，政府也应参与监督。

主张美中推动类似军控谈判

在国际合作层面，Amodei 认为，虽然地缘政治因素让合作变得困难，但这仍是必要的 AI 防御策略。他主张美国和中国应展开类似核武军控的谈判，建立共同安全规范框架。

按照他的说法，防止生化恐怖主义符合包括美国和中国在内多国的共同利益。具体做法上，两国可以先推动共识条约，或扩展《生化武器公约》框架，明确禁止利用人工智能开发危害安全的国家生化武器。

建议扩展《生化武器公约》适用范围

面对全球竞争与地缘政治压力，Amodei 说，国际社会应参照传统军备控制模式，建立跨国安全沟通机制。以卫生安全为例，各国在防止生化攻击上有共同利益，因此可以考虑扩充现有《生化武器公约》（Biological Weapons Convention，BWC）框架，明确禁止将人工智能模型用于 Dangerous Pathogens（危险病原体）设计，并确保参与国家切实履行安全承诺。

他提出的几项重点措施

• 独立第三方审计：引入非营利组织或政府支持的第三方评估机构，观察模型训练与运行流程。
• 调整技术研发节奏：适度放缓发展速度，让安全防御与人为控制能力跟上增长。
• 借鉴国际军控模式：参考核武与生化武器管控经验，推动跨国协议，把《生化武器公约》的应用范围延伸至人工智能领域。
• 建立实质核查机制：通过嵌入式检验与技术监测，执行并监督跨国协议。
• 加强政府与企业合作：结合政府监管、企业自律与多层防御体系，降低单一环节失效带来的系统性风险。

ABMedia 在文中也提到，All in Podcast 曾将这类「末日论」描述为心理战术，并称其可能影响 Anthropic 的上市计划。