谷歌称 Gemini 测试中曾意外访问外部系统，未造成实际损害

Odaily星球日报讯，谷歌表示，Gemini 人工智能模型在一次网络安全能力测试中意外访问互联网，并进入 3 家公司系统。这是目前已知谷歌 AI 系统首次自主完成此类操作的案例。

事件发生于 5 月，由安全公司 Irregular 开展测试。测试中，Gemini 在一场“夺旗”网络安全演练里执行任务，但由于测试环境中的虚拟公司名称与真实公司相同，同时模型意外获得互联网访问权限，最终进入了真实企业系统。

3 次访问的具体情况

谷歌称，其中一次事件中，模型通过尝试密码进入受保护系统；另外两次则是在公开网络仓库中发现凭证，并尝试访问相关系统。模型在确认访问到真实公司系统后，均停止了后续操作。

谷歌回应与后续处置

谷歌表示，该事件未对相关公司造成损害，因此未将其认定为模型失控事件。谷歌还称，安全机制帮助模型及时停止了相关行为。受影响公司已被通知，谷歌也已向相关监管机构进行了通报。

与其他 AI 公司案例相似

报道提到，此次事件与 OpenAI、Anthropic 等 AI 公司此前披露的类似安全测试事件相似，再次引发外界对 AI 模型自主执行网络操作能力及其安全防护机制的关注。

上述消息由《华尔街日报》披露。