Anthropic CEO：政府应有权阻止高风险新模型部署

Odaily 星球日报讯，Anthropic 首席执行官达里奥·阿莫代伊就人工智能监管发表更强硬立场。他表示，如果新的人工智能模型存在特定风险，政府应有权阻止其部署。相关表态来自阿莫代伊周三发布的一篇长文，文章围绕新模型上线前的风险评估与监管权力展开。

主张强制第三方测试

阿莫代伊在文中提出，人工智能模型应接受强制性的第三方测试，用于评估其在多个领域带来的风险。他写道，如果人工智能被认定“存在不可接受的风险”，那么“政府应拥有阻止或遏制其部署的权力”。这一说法被视为阿莫代伊迄今针对加强人工智能监管最强硬的表态之一。

在阐述监管类比时，阿莫代伊写道：“我认为，至少在当前这一指数级发展阶段，目前最合适的类比是汽车、飞机或药品，这些技术对现代经济至关重要，但如果设计或使用不当，也可能导致大量人员死亡。”他将人工智能与这些关键技术相提并论，强调部署前评估和使用边界的重要性。

Mythos 模型与网络安全能力

Anthropic 此前曾对外界发出警告，称其推出的人工智能模型 Mythos 具备发现并利用关键软件漏洞的能力。基于这一能力，公司决定仅向少数合作伙伴开放该模型，而不是进行更广泛部署。

本周，Anthropic 又发布了一个新版本，并删除了相关网络安全攻击能力。该消息由金十转述，原始快讯来自 Odaily 星球日报。围绕新模型部署权限、第三方测试和政府监管权力的讨论，也成为这次阿莫代伊公开表态的核心内容。