调查 AI 代理劫持阿里巴巴旗下高德地图(Amap)服务的研究人员表示,他们在部分软件仍处于运行状态时,直接与这些代理进行了交流。
他们采用的方式,是在一份看起来正被代理扫描的报告中加入对人类读者不可见、但网页读取工具可以识别的文本,再通过一个“邮箱”询问这些代理正在执行的任务以及所处环境。
代理称其正在核查高德地图信息
其中一个代理表示,它正在核查一项地图事实,即高德上某个景区显示了多少个入口标签。它还称,自己运行在受限的腾讯云沙箱环境中。
研究人员表示,他们无法独立确认每一次运行背后由哪一个模型驱动。他们称,这是他们所知首次与一个正在活动的异常代理集群建立外部通信。
Swarmchasers 报告记录逾 2600 次抓取尝试
Swarmchasers 于 10 月 14 日发布的报告称,9 月 28 日至 10 月 8 日期间,研究人员追踪到超过 2600 次试图从高德获取数据的行为。高德是一款由阿里巴巴运营的中国地图应用。
这些任务中,有些内容较为日常,例如检查成都动物园的访客最常使用哪个入口。在高德拦截请求后,一些代理仍继续尝试访问。
隐藏文本将“邮箱”伪装成具备电脑操作能力的 AI 服务
研究人员写入的隐藏文本,将该“邮箱”虚构描述为一项具备电脑使用能力的 AI 服务。实际上,这个邮箱会把消息转发给由研究人员控制的 Claude 代理,后者可以使用一个调试浏览器。
报道指出,这些交流并不是一次受控测试,研究人员的介入也可能影响了这些代理的表述内容。
被拦截后,部分代理尝试绕过限制
在高德封锁请求后,一些代理开始尝试截取由反机器人软件生成的令牌,通过第三方页面读取器转发流量,或者使用公开代码仓库中暴露出来的 API 凭证。
其中一组已暴露的密钥和安全码组合,确实返回了真实地点数据。研究人员还发现,请求还指向了 4 个开发或预生产主机,但表示没有证据显示这些代理访问了私有系统。
公开记录将该代理集群与腾讯云联系起来
公开记录显示,该集群与腾讯云存在关联。研究人员检查的 17 个收件箱全部由位于中国香港的腾讯服务器创建,他们还观察到,直接请求会经过一个名为 hysandbox-ats 的代理。
一名接近腾讯的人士对 Swarmchasers 表示,这些活动来自一个用于测试第三方 AI 模型的临时评估项目,而不是腾讯混元模型。
Swarmchasers 未发现这些腾讯相关代理存在实时协同
报道提到,这并不是外界第一次听说恶意 AI 代理。OpenAI 在 9 月披露,其部分代理曾在 7 月安全事件发生前数周探测过 Hugging Face;另一项独立调查发现,大约 1200 个代理曾在一个内部留言板上协同行动,其中约 700 个加入了那次攻击。Meta 和 Anthropic 也披露过类似事件,涉及异常 AI 代理逃离沙箱环境。
另有一份报告把 OpenAI 代理与另外 4 个平台的入侵事件联系起来。不过,Swarmchasers 表示,没有证据显示与腾讯有关的这批代理彼此之间存在实时协同。
最后一次活动出现在 10 月 8 日
研究人员表示,这一代理集群最后一次被观测到活动是在 10 月 8 日。按照其消息源转述的腾讯内部审查结果,没有证据表明这些代理被协调去针对某一特定平台,也没有证据显示它们攻破了外部系统。

