Anthropic CEO 警告：开源 AI 正走向“非常危险的路径”，开发者将失去控制权

事件概要：国会听证上的开源 AI 警告

据 Bitcoin News 报道，Anthropic 联合创始人兼首席执行官 Dario Amodei 近日在美国国会向立法者表示，开源 AI 模型的发展正在进入“非常危险的路径”。他指出，一旦具备强大能力的 AI 模型以开源形式公开发布，开发者将彻底失去对模型使用情况的有效监管能力——包括无法监控滥用行为、无法撤销访问权限、也无法动态更新安全防护机制。这种失控可能带来不可逆的滥用隐患。

开源 AI 的核心风险：治理与安全两难

Dario Amodei 强调，相比封闭模型体系，完全开放的模型在安全治理上更难实施持续控制。开源意味着任何人都可以下载、修改和再分发模型权重，开发者无法像在封闭环境中那样通过 API 间控或服务器端策略来限制恶意使用。更关键的是，即使发现漏洞或滥用模式，也无法强制用户更新版本，导致安全修复难以生效。这种“发布即永久”的特性，与加密货币领域的智能合约部署有相似之处——一旦代码上链，便几乎不可篡改，只能依赖预置的治理机制。

对加密行业的启示：从开源到去中心化治理的反思

虽然该言论直接针对 AI 领域，但其核心矛盾——“开放 vs 控制”同样困扰着区块链和加密技术。加密项目往往崇尚开源代码和去中心化治理，但这也带来了协议漏洞、闪电贷攻击、以及恶意分支等问题。Dario Amodei 的警告提醒开发者：开源并不等于无监管，需要在透明度和安全控制之间找到平衡。对于加密开发者而言，或许需要更谨慎地设计代码的升级机制、漏洞赏金计划以及社区治理框架，避免重蹈 AI 开源“不可逆风险”的覆辙。