返回补丁更新

补丁更新

AI安全
2026-06-28 17:31:30

Anthropic CEO 国会警告:开源 AI 正步入“危险路径”,安全治理面临失控风险

在近日的美国国会听证会上,Anthropic 联合创始人兼 CEO Dario Amodei 强烈警告开源 AI 发展已进入“非常危险的路径”。他指出,一旦具备强大能力的 AI 模型以开源形式发布,开发者将失去对模型使用情况的有效监管能力,包括无法监控滥用行为、撤销访问权限或动态更新安全防护机制。相比封闭模型体系,完全开放的模型在安全治理上更难实施持续控制,可能带来不可逆的滥用隐患。这一表态引发加密与 AI 交叉领域对开源许可与安全标准的进一步讨论。

270
Anthropic CEO 国会警告:开源 AI 正步入“危险路径”,安全治理面临失控风险