Anthropic CEO 警告美国国会：开源AI正走向危险路径，安全治理面临失控风险

据 ChainCatcher 报道，Anthropic 联合创始人兼首席执行官 Dario Amodei 在美国国会向立法者表示，开源 AI 发展正在进入“非常危险的路径”。他指出，一旦具备强大能力的 AI 模型以开源形式发布，开发者将失去对模型使用情况的有效监管能力，包括无法监控滥用行为、撤销访问权限或动态更新安全防护机制，从而增加潜在风险。相较于封闭模型体系，完全开放的模型在安全治理上更难实施持续控制，可能带来不可逆的滥用隐患。

开源 AI 的安全治理困境

Amodei 在听证会上强调，开源 AI 模型一旦发布，开发者便无法追踪模型被用于何处、被谁修改或用于何种目的。这种透明度缺失直接导致安全防护的失效：当模型被恶意用于生成有害内容、自动化网络攻击或设计生物武器时，开发者几乎不可能及时切断风险源头。相比之下，封闭模型（如 ChatGPT 或 Claude）可以通过 API 权限、使用条款和实时监控来限制滥用，而开源模型则完全依赖下游用户的自觉——这在全球范围内几乎无法实现。

对加密行业的潜在影响

尽管 Amodei 的警告主要针对 AI 安全通用领域，但其逻辑也延伸至加密行业。加密货币领域日益依赖 AI 进行智能合约审计、链上交易分析和自动化做市决策。若不受监管的开源 AI 模型被恶意编程或数据投毒，可能直接导致 DeFi 协议被攻击、预言机数据被操纵，甚至催生完全自主的恶意智能合约。此外，去中心化 AI 项目（如基于区块链的 AI 训练网络）若采用开源模型，同样面临不可逆的安全风险——一旦模型参数被篡改，链上治理机制往往无法像中心化 API 那样快速响应和修复。

Amodei 的国会证词为开源与安全之间的权衡敲响警钟。对于加密行业而言，如何在保持去中心化精神的同时引入有效的 AI 安全治理框架，正成为一个愈发紧迫的议题。