Anthropic CEO 国会听证：开源 AI 安全风险引担忧
据 Bitcoin News 报道，知名 AI 公司 Anthropic 联合创始人兼首席执行官 Dario Amodei 在近日的美国国会听证会上向立法者发出严厉警告：开源 AI 发展正步入“非常危险的路径”。Amodei 强调，当具备强大能力的 AI 模型以开源形式发布时，原始开发者将几乎完全丧失对模型实际用途的控制力，无法有效监控是否存在滥用行为，无法撤销已发布的访问权限，也无法动态更新安全防护机制。这种局面势必放大模型被用于恶意目的的风险。
Anthropic 是一家专注于 AI 安全研究的公司，其创始团队多来自 OpenAI。Amodei 的此番表态并非孤例——近期多位行业领袖与政策制定者开始呼吁对开源模型实施更严格的安全审查与许可限制。在美国国会加密与 AI 监管交叉的议题中，开源模型的可控性问题已成为焦点。
开源与封闭模型的安全治理对比
Amodei 在听证会上明确指出，相较于封闭模型体系（如 OpenAI 的 GPT 系列或 Anthropic 自身的 Claude 系列），完全开放的模型在安全治理上存在天然劣势。封闭模型的开发者可以通过云端 API 进行访问控制、行为审计、动态微调及安全补丁更新；而开源模型一旦面向公众发布，其权重、代码与文档将永久存在于互联网上，任何第三方均可自由修改、部署，甚至绕过原始限制。这种不可逆性使得持续的安全管理几乎不可能实现。
“这不是一个理论问题，”Amodei 表示，“我们已经看到开源语言模型被用于生成虚假信息、开发恶意软件乃至策划网络攻击的早期案例。随着模型能力指数级增长，滥用后果将不堪设想。”他呼吁国会考虑建立针对强能力开源模型的“安全审查前门”机制，例如要求发布前通过基准测试并签署使用协议，同时探索“可追溯性水印”等技术手段。
这一立场在加密社区中引起复杂反响：一方面，去中心化理念推崇开放与无许可创新；另一方面，AI 安全风险可能给 DeFi、智能合约审计等依赖 AI 的场景带来系统性的新威胁。政策制定者需在开放精神与安全可控之间寻找平衡点。