开源AI的监管困境：Anthropic CEO的国会证词
6月28日，Anthropic联合创始人兼CEO Dario Amodei在美国国会听证会上向立法者发出严厉警告：开源AI的发展正滑向“非常危险的路径”。他表示，一旦具备强大能力的AI模型以开源形式公开发布，原始开发者将几乎丧失对模型使用情况的实质控制权。“我们无法追溯谁在使用模型、用于何种目的，更无法在发现滥用后单方面撤销访问权限或动态更新安全防护机制。”Amodei强调，这种失控风险在传统封闭模型体系中是可管理的——但完全开放模型的安全治理几乎不可能，可能造成不可逆的滥用隐患。
加密领域为何首当其冲？链上AI的治理真空
Amodei的警告在加密社区引发强烈关注。去中心化金融（DeFi）与AI的融合正快速推进：链上AI agent自动执行交易策略、去中心化算力市场支持开源模型训练、ZKML（零知识机器学习）验证链下推理结果——这些场景都高度依赖开源AI模型的开放性和可组合性。然而，如果这些模型缺乏内置的监管后门或更新通道，一旦部署到智能合约中，任何后续安全补丁都无法介入。例如，一个被恶意篡改的开源交易模型可能在链上永久运行，造成资产损失却无法被叫停。相比之下，封闭模型（如Anthropic的Claude系列）通过API层持续监控使用模式并动态调整行为阈值，更适用于对资金安全敏感的加密应用。
开源 vs 封闭：两种模型的风险权衡
Amodei在证词中明确对比了两种体系：封闭模型允许开发者维持“持续控制”，包括实时监控异常请求、基于使用信号的自动阻断，以及通过模型更新修复漏洞。而开源模型一旦分发，开发者就失去了这些手段。虽然开源促进了技术民主化和审计透明，但在涉及资产托管、预言机喂价、自动做市等金融核心场景中，不可撤回的开源许可可能成为系统性风险。加密项目在选择底层AI模型时，需要将“治理可持续性”纳入核心决策指标——是否保留撤回能力、更新机制是否与链上治理兼容、模型权重是否允许紧急下架。这些问题的答案将决定未来DeFAI（去中心化金融+AI）赛道的安全基线。
截至发稿，美国国会尚未就AI监管新法案达成共识，但Amodei的发言已推动立法者更关注开源模型在金融基础设施中的潜在滥用场景。加密行业应主动建立“可监管AI”的标准，避免成为开源失控的试验场。