OpenAI加强模型安全防护，最新强化学习训练暂停两周

PANews 8月19日消息，据金融界报道，在近期网络安全事件引发外界对AI工具可能失控的担忧后，OpenAI表示，正在对仍处于开发阶段的人工智能模型加强监控和安全防护。

OpenAI称，将进一步追踪其能力最强、尚未发布的模型在解决问题以及使用各种在线工具时的行为。公司的目标是，一旦发现令人担忧的行为，能在30分钟内向安全团队发出警报。

OpenAI还新增了控制措施，防止某些AI模型连接互联网来执行风险更高的任务。与此同时，公司将要求在训练和评估AI模型时实施更严格的隔离措施，也就是“沙箱”。

OpenAI公告提到，在Hugging Face事件发生后，公司立即暂停了研究集群中可能执行代码的前沿模型推理任务。公司同时放缓了扩展速度，并将对最新部署模型的强化学习训练暂停两周。

OpenAI表示，规模最大的前沿强化学习训练计划目前仍处于暂停状态，等待安全验证完成。