背景：Anthropic CEO 国会听证会表态
据 Bitcoin News 报道，知名 AI 安全公司 Anthropic 联合创始人兼首席执行官 Dario Amodei 近日在美国国会作证时，对开源人工智能的发展方向发出严厉警告。Amodei 认为，当前开源 AI 的推进速度正使行业步入“非常危险的路径”，尤其在模型能力持续增强的背景下，如果不加约束地开放权重与代码，将产生难以控制的安全隐患。
核心观点：开源模型丧失监管主动权
Amodei 在听证会上强调，一旦具备强大能力的 AI 模型以开源形式发布，原始开发者便无法再有效监管模型的实际使用情况。具体而言，开发者将失去三项关键控制能力：无法监控模型是否被用于恶意目的（如生成虚假信息、自动化网络攻击），无法撤销已分发模型的访问权限，也无法动态更新安全防护机制以应对新发现的漏洞。这种失控状态与封闭模型体系形成鲜明对比——在封闭模型下，开发者可以通过服务器端控制、API 密钥、使用条款等方式持续管理模型行为，并能在发现问题时即时修补。
风险分析：开源 AI 的安全治理困境
Amodei 指出，完全开放的模型在安全治理上比封闭系统更难实施持续控制。由于模型权重、训练代码、推理逻辑均可被任何第三方下载、修改和重新部署，一旦出现滥用行为，监管者和开发者几乎没有追索手段。这种不可逆性意味着，即使原始团队后续发现严重缺陷，也无法阻止已流通的恶意版本继续运行。Amodei 将此形容为“不可逆的滥用隐患”，并认为这构成了当前 AI 领域最紧迫的政策问题之一。
监管与行业影响：开源 vs 封闭的博弈升级
Anthropic 作为专注 AI 安全的头部企业（由前 OpenAI 员工创立），其 CEO 在国会的表态代表了行业中对开源路线持谨慎态度的声音。与此同时，Meta 等公司则大力推动开源大模型（如 LLaMA 系列），主张开放协作能加速创新和民主化。这场争议已从技术讨论延伸至政策层面：美国国会正酝酿对基础 AI 模型实施出口管制和许可证制度，而 Amodei 的证词可能进一步强化对开源模型加强监管的立法动机。对于加密与 Web3 行业而言，AI 模型的开放性与可审计性曾是核心价值之一，但此次警告提示，当模型能力达到通用人工智能（AGI）门槛时，完全开源可能带来超越传统代码漏洞的社会级风险。