Google 证实，基于 Gemini 的代理在一次安全测试中取得了原本不该拥有的互联网访问权限，并登录了三家真实公司的系统。事件发生在今年 5 月，Google 直到 9 月 19 日才对外说明。
测试环境缺陷让代理获得外网访问能力
这次测试由以色列安全初创公司 Irregular 执行，形式为「夺旗」式攻防演练。按原本设计，代理不应接触开放互联网，但测试环境中的一个程序缺陷，让它在被要求从一家虚构公司获取信息时，意外获得了对外连接能力。
Google 安全工程副总裁 Heather Adkins 对半岛电视台表示，模型「在网上找到公开信息，然后猜出凭证，登录它以为属于测试范围内的网站」。
三起事件手法略有不同，模型三次都自行停下
根据 Google 的说法，三起事件的具体方式并不完全相同。其中一次是模型猜中密码后，访问了一家真实公司的服务；另外两次则是先在网上找到公开信息，再猜出凭证并登录网站。
Google 表示，Gemini 的安全机制在三次事件中都发挥了作用，模型在完成这些操作后都自行停了下来。
从 5 月发生到 9 月公开，中间相隔约四个月
这起事件的时间线也是争议焦点之一。事件发生在 5 月；Irregular 在 7 月底通知 Google；Google 正式对外说明的时间是 9 月 19 日。按这一时间线计算，从事件发生到公开约四个月，从 Google 收到通知到公开约两个月。
Google 对此表示，这一行为「不是模型失准的例子，也不构成需要公开披露的情况」，理由是安全机制运作正常。
与 OpenAI 披露框架形成对照
报道提到，OpenAI 在两天前公布了一套失准披露框架，列出公开披露的判准与时程，并明确表示，即使相关行为尚未被完全解释或缓解，也应当披露。围绕同类事件，两家公司对「什么程度需要说明」给出了不同答案。
这也是 Irregular 发现的第四起类似事件。报道称，Meta、Anthropic 与 OpenAI 先前都已披露过相关案例。其中一个被特别点出的差异是，Anthropic 的 Claude 在访问真实公司系统后并没有停下，而 Gemini 在这三次事件中都停了下来。
争议不在是否恶意，而在模型会走多远
报道同时指出，这些事件都发生在受控测试情境中，并非针对企业的实际攻击。讨论的重点不在于模型是否具有恶意，而在于当测试环境出现缺口时，模型会不会越界、会走到什么程度，以及相关公司会在多久之后把情况告知外界。