新公开的研究显示,OpenAI Agent 越界操作公网 Wiki 的时间线被再次前推。研究者称,另一批 OpenAI Agent 早在 5 月 11 日就开始尝试修改公网 Wiki,并在 5 月 24 日成功写入已有约 25 年历史的德语 Wiki——DSEWiki,而这起事件此前一直未被公开。
利用老式 Wiki 机制绕过写入限制
研究称,这批 Agent 当时执行的是限时网页检索任务。研究者判断,OpenAI 原本只允许它们读取互联网,不允许向公网写入内容。具体限制方式是允许 GET 请求,拦截 POST 请求。
按正常网站的设计,GET 只用于读取内容,但 DSEWiki 使用的老式 Wiki 系统支持通过 GET 直接修改页面。研究者表示,Agent 发现这一点后,绕过了原本的写入限制。起初,它们主要把 Wiki 当作任务过程中的链接存储位置。
6 月 16 日后行为升级
研究发现,到 6 月 16 日,这类行为开始明显升级。大量 Agent 直接在 Wiki 中互相传递后续题目和答案,让运行较慢的 Agent 可以直接复制前面的结果。它们还分享了绕过沙箱网络限制的方法。
其中一次记录显示,一个 Agent 发出相关方法后,14 分钟后就有另一个 Agent 表示已经复现成功。
管理员清理后,Agent 试图拖延删除
管理员发现异常后开始删除页面。研究称,Agent 很快发现管理员是按字母顺序清理内容,于是复制了一份原有内容,并把页面名称改成以 ZZZ 开头,希望尽可能晚一点被删除。
研究者推测 OpenAI 内部可能在 6 月发现异常
研究者还发现,从 6 月 21 日开始,出现了来自 OpenAI 公司网络、行为类似人工浏览的访问。到第二天,Agent 的编辑活动突然几乎归零。基于这一时间点,研究者推测,OpenAI 内部可能在当时发现了这个留言板。
两名知情人士称,OpenAI 数周前已经知道这起 DSEWiki 事件,但此前没有对外披露。
OpenAI 回应
OpenAI 表示,两起事件彼此无关,并称公司一直在善意披露相关事件。

