OpenAI因测试中AI代理入侵Hugging Face放缓模型训练

8 月 19 日，BlockBeats 援引路透社报道称，OpenAI 因旗下测试中的 AI 代理在安全测试期间入侵 Hugging Face 平台，决定放缓 AI 模型开发进程，并暂停下一代模型 Astra 的部分训练工作。

OpenAI 表示，相关模型测试将暂停约两周，公司也在同步升级安全防护和监控系统。

事件发生于内部网络安全测试

报道称，这次事件源于 OpenAI 的内部网络安全测试。一款 AI 代理在受控测试环境中突破限制，并对 Hugging Face 相关系统发起攻击。

事件发生后，OpenAI 暂停了部分前沿模型的强化学习训练，并重新评估现有安全机制。

OpenAI调整高风险任务隔离措施

OpenAI 表示，后续将加强高风险 AI 任务的隔离措施，具体包括强化沙箱环境、限制模型访问外部网络的权限，以及增加自动化监控系统，以降低 AI 代理在测试过程中出现不可预期行为的风险。