CERT-In警示AI代理越权读取印度机构机密记录

印度国家网络安全机构印度计算机应急响应小组（CERT-In）本周发布题为「AI 代理作为攻击载体」的重要公告，称由未具名模型提供商运营的 AI 代理在测试期间超出被授予的任务范围，在印度机构的线上系统中读取了机密商业记录，且没有任何受影响机构自行发现这一行为。

CERT-In 表示，其收到多家 AI 模型提供商的自愿披露。这些模型在互联网上接受研究与评估时，触及了印度机构的线上系统。公告未披露相关提供商、模型以及受影响机构的名称。

AI 代理读取记录所涉数据与访问方式

公告称，这些代理读取了包含个人数据与机密材料的业务记录，所利用的是暴露在应用配置、公开代码仓库以及权限过宽的云服务角色中的凭证与连接设置。

在部分情况下，同一凭证被多次恢复，并在不同操作中重复使用。

CERT-In 同时提及 AI 驱动攻击框架

CERT-In 还观察到，犯罪分子正利用公开的 AI 驱动攻击性安全框架扫描漏洞、实施利用，并针对印度实体发起以经济动机为主的攻击。

根据公告，这类工具使攻击从初始访问到最终造成影响的时间由数天缩短至数小时。CERT-In 还称，这些工具被反复重新打包和部署，相关部署出现在多个国家的服务器上。