Anthropic CEO 国会作证：开源 AI 安全治理面临失控风险
据 Bitcoin News 报道，Anthropic 联合创始人兼首席执行官 Dario Amodei 近日在美国国会向立法者表示，开源 AI 的发展正在步入“非常危险的路径”。他指出，一旦具备强大能力的人工智能模型以开源形式发布，开发者将彻底失去对模型使用情况的有效监管能力——包括无法监控滥用行为、无法撤销访问权限、也无法动态更新安全防护机制。这种控制权的丧失，可能将社会推向不可逆的滥用隐患。
闭源 vs 开源：安全治理的根本差异
Amodei 强调，相较封闭模型体系，完全开放的模型在安全治理上更难实施持续控制。闭源模型允许开发者通过 API 调用、权限管理、实时监控和黑名单机制来限制模型的使用方式，而开源模型一旦权重或代码公开，任何人都可以自由修改、分发和部署，不再受原始开发者的约束。这意味着，即便原始团队发现模型存在安全漏洞或伦理风险，也无法阻止恶意使用者利用该模型进行深度伪造、网络攻击、生成有害内容等行为。
Anthropic 本身以开发“可靠、可解释、可治理”的 AI 系统闻名，其旗舰模型 Claude 系列采用封闭 API 模式，强调安全对齐。Amodei 的此番表态，既代表了闭源阵营的安全立场，也反映了 AI 行业在开放与可控之间日益尖锐的张力。
对加密与去中心化 AI 领域的启示
虽然 Amodei 的发言主要针对传统 AI 领域，但其核心论点与加密行业的去中心化 AI 项目高度相关。当前，一批基于区块链的去中心化 AI 平台（如 Bittensor、Render Network、Akash Network 等）试图通过代币激励和链上治理来管理开源模型的训练与部署。这些项目面临与 Amodei 所述类似的困境：如何在保持开放、无需许可的同时，建立有效的安全防护和滥用追溯机制？
一些加密原生的解决方案正在探索，例如将模型权重存储在去中心化存储网络（如 IPFS/Arweave）上，并通过智能合约控制访问权限；或者使用零知识证明（ZKP）实现“可验证但不可见”的模型推理。然而，这些技术仍处于实验阶段，距离大规模落地还有距离。Amodei 的警告无疑为这些项目敲响了警钟：如果没有足够的安全治理，开源 AI 的“失控”风险可能同样会蔓延到去中心化生态中。
政策与监管走向：短期难以妥协
在美国国会，立法者越来越多地关注 AI 安全与开源之间的平衡。此次听证会是更广泛的 AI 监管讨论的一部分，此前已有多个法案提案要求对大型 AI 模型进行出口管制和开源许可限制。Amodei 的证词可能加速监管部门对开源模型实施更严格的合规要求，例如强制进行安全评估、设置访问白名单、或要求开源发布前获得政府许可。对于加密领域的开发者来说，这意味着未来可能需要同时满足传统 AI 监管和加密金融监管的双重框架，合规成本将进一步上升。
值得注意的是，OpenAI、Google DeepMind 等闭源厂商倾向于支持更严格的监管，而开源社区（如 Hugging Face、Meta 的 LLaMA 2 开源版本）则呼吁保持开放创新。两股力量的博弈将直接影响 AI 技术发展路径，也会间接影响加密生态中 AI 相关项目的技术选型和商业模式。
总体而言，Amodei 在国会的发言精准地切中了开源 AI 的安全治理盲区——当模型能力足够强大时，开放不等于自由，而可能成为失控的窗口。无论是传统 AI 行业还是加密去中心化 AI 项目，都需要在开放创新与安全可控之间找到可持续的平衡点。