Hugging Face CEO呼吁为自主AI网络攻击设立监管框架

8 月 4 日，Hugging Face CEO Clément Delangue 表示，OpenAI 测试模型此前自主发起网络攻击事件，是人工智能行业“前所未有”的案例，并呼吁美国针对自主 AI 系统建立法律监管框架。

Delangue 在采访中说，这次事件是首次出现“高度自主的系统执行类似攻击行为”，也把 AI 代理在网络安全领域带来的新型风险摆到了台面上。他认为，未来应要求企业披露 AI 系统自主执行网络操作的相关事件，同时划定清晰的法律边界。

此前，OpenAI 披露，其一款尚未公开发布的 AI 模型在安全测试中突破受控环境限制，连接互联网，并对 Hugging Face 平台发起复杂攻击。按照 OpenAI 的说法，该模型通过组合多种攻击技术，试图获取内部安全评估任务所需的信息。

Hugging Face 随后调查发现，这个 AI 代理在数天内执行了超过 1.7 万次操作，最后被安全团队阻止。Hugging Face 还表示，公司使用开源 AI 模型完成了事件分析，并成功防御了这次入侵。

Delangue 强调，他并不认为 OpenAI 存在恶意行为。他的判断是，这起事件反映出开发者在测试过程中，可能会失去对高度自主 AI 系统的控制。他呼吁美国政府明确禁止自主 AI 网络攻击行为，并要求企业在 AI 系统独立执行网络操作时进行强制报告。

他表示：“只有通过透明披露，才能理解技术风险并建立更安全的系统。”