Anthropic CEO主张政府可阻止高风险AI模型部署

Odaily星球日报消息，Anthropic首席执行官达里奥·阿莫代伊就人工智能监管发表更强硬立场。他表示，如果新的人工智能模型存在特定风险，政府应有权阻止其部署。阿莫代伊在周三发布的一篇长文中提出，人工智能模型应接受强制性的第三方测试，用于评估其在多个领域带来的风险。

主张强制第三方测试

阿莫代伊在文章中写道，如果人工智能被认定“存在不可接受的风险”，那么“政府应拥有阻止或遏制其部署的权力”。这也是他迄今为止针对加强人工智能监管最强硬的表态之一。按照他的表述，监管重点并非仅停留在企业自查，而是要引入外部测试机制，对新模型在部署前进行风险评估。

在阐述监管类比时，阿莫代伊写道：“我认为，至少在当前这一指数级发展阶段，目前最合适的类比是汽车、飞机或药品，这些技术对现代经济至关重要，但如果设计或使用不当，也可能导致大量人员死亡。”这段表述显示，他将人工智能模型置于与汽车、飞机、药品相似的安全审查语境中，强调技术重要性与部署风险需要同时被纳入监管讨论。

Mythos模型曾限制开放

Anthropic此前曾对外界发出警告，称其推出的人工智能模型Mythos具备发现并利用关键软件漏洞的能力。基于这一能力特征，公司决定仅向少数合作伙伴开放该模型，而不是面向更广泛范围部署。该案例也成为阿莫代伊讨论人工智能模型风险控制时的重要背景之一。

本周，Anthropic又发布了一个新版本，删除了相关网络安全攻击能力。围绕新模型部署、第三方测试以及政府干预权的讨论，阿莫代伊的最新表态把重点放在“不可接受的风险”这一门槛上：一旦模型被认定越过该门槛，政府应可以阻止或遏制其进入实际部署环节。