Anthropic CEO 国会作证：开源 AI 存在不可逆滥用风险
据 Bitcoin News 报道，6 月 28 日，Anthropic 联合创始人兼首席执行官 Dario Amodei 在美国国会作证时向立法者发出严厉警告：当前开源 AI 的发展正进入一条 “非常危险的路径”。他指出，一旦具备强大能力的 AI 模型以开源形式发布，原始开发者将丧失对模型使用情况的根本性控制能力。这包括无法实时监控模型的滥用行为、无法撤销特定用户的访问权限，也无法动态更新安全防护机制。这种“一次性发布、无法撤回”的特性，意味着潜在风险可能持续蔓延，甚至造成不可逆的后果。
封闭模型 vs. 开源模型：安全治理的差异
Amodei 对比了封闭模型与开源模型在安全治理上的本质区别。在封闭模型体系中，开发者或服务商可以通过 API 调用控制、身份验证、使用协议和定期安全补丁等手段，对模型的输出内容和行为进行持续管理。一旦发现滥用，可以立即切断访问或更新过滤规则。然而，开源模型一旦权重公开，任何人无需经过授权即可下载、本地部署甚至二次微调，原开发者的监管手段几乎失效。尽管部分开源社区尝试通过许可证条款进行约束，但实际执行难度极大，尤其是当模型被用于恶意目的时，追责成本极高。
对加密与去中心化 AI 领域的启示
这一警告虽然主要面向传统 AI 监管，但对加密行业同样具有重要参考价值。当前许多 Web3 项目正在探索 “去中心化 AI” 模型，例如将 LLM 部署在区块链上，或通过 DAO 治理开源模型的版本迭代。Amodei 所描述的监管真空，恰恰是这些项目在设计激励机制和治理机制时需要优先解决的问题。例如，如果某个去中心化 AI 网络允许任何人提交模型权重，如何防止恶意模型被部署并用于欺骗用户或操纵市场？能否通过链上治理实现模型的白名单制度和紧急下架机制？这些都是加密原生社区必须面对的挑战。
此外，加密领域的开发者应意识到，单纯依赖“开源精神”并不足以构建安全的 AI 生态。在缺乏持续监管能力的背景下，开源 AI 模型可能被用于生成虚假信息、深度伪造、自动化攻击甚至金融欺诈，对整个行业的信任基础造成冲击。Amodei 的听证发言，实际上为加密从业者敲响了警钟：在追求透明和去中心化的同时，不能忽视内置的安全治理层。
政策监管动向与行业应对
随着 AI 能力指数级增长，全球各国政府正加速制定监管框架。美国国会此次听证标志着立法者对开源 AI 风险的关注度上升。预计未来可能出现针对开源模型发布前的“安全评估”要求，或者对模型权重的分发附加特定许可证限制。对于加密项目，这意味着可能需要提前准备合规预案，例如在智能合约中嵌入模型使用的链上审计日志，或通过零知识证明等技术实现“可问责的匿名使用”，从而在保护隐私的同时保留监管可能性。
Amodei 的发言也反映出头部 AI 企业对开源模式的态度正在发生微妙转变。Anthropic 本身采用封闭模型路线（主打 Claude 系列），其 CEO 的公开表态很可能影响其他 AI 公司的开源策略。未来，开源与闭源的争论将不再仅仅是技术意识形态的分歧，更与国家安全、金融稳定、用户权益等议题深度绑定。