马斯克称 Grok Bot 管理银行账户出错将由 xAI 赔付
马斯克在 X 平台表示,若 AI 代理 Grok Bot 在操作用户银行账户时造成亏损,xAI 将承担赔偿责任。但 xAI 消费者条款对大多数索赔设有上限,为用户已支付费用或 100 美元中的较高者。Grok Bot 已于 8 月 11 日推出测试版,目前尚无其误操作真实银行账户的已验证案例。

马斯克在 X 平台表示,若 AI 代理 Grok Bot 在操作用户银行账户时造成亏损,xAI 将承担赔偿责任。但 xAI 消费者条款对大多数索赔设有上限,为用户已支付费用或 100 美元中的较高者。Grok Bot 已于 8 月 11 日推出测试版,目前尚无其误操作真实银行账户的已验证案例。

OpenAI 于 8 月 13 日在 ChatGPT Mac 桌面版推出 Computer History,使用键盘、鼠标和应用切换等交互事件生成可搜索的本地记忆文件,不再依赖截图或录音。该功能默认关闭,面向 ChatGPT Pro、Business 和 Enterprise 用户分批开放。不过,OpenAI 也承认相关记忆文件未加密,且可能放大提示注入风险;原始事件流会发送到 OpenAI 服务器处理,并在 48 小时内删除。

Bankr因攻击者入侵14个钱包暂停交易,承诺全额赔付;用户需停止签名、创建新钱包并撤销授权;SlowMist创始人指出可能涉及社交工程和提示注入攻击。

OpenAI面向企业用户推出Lockdown Mode,禁用实时网络浏览、Deep Research等7项功能,以削减提示注入攻击面。同时上线高风险标签功能,为敏感数据处理提供多层防护。

Moltbook上线一周即吸引超百万AI代理人,人类只能旁观。代理人自创宗教、使用ROT13加密通讯、贩卖数字药物,引发AI安全讨论。

安全机构PromptArmor称,Microsoft 365 Copilot Cowork存在可重现的提示注入攻击链,攻击者可借恶意技能文件引导AI代理人泄露SharePoint和OneDrive中的企业敏感文件。

OpenAI 公布自动化 AI 红队系统 GPT-Red,并称该工具在 GPT-5.6 部署前帮助提升了模型对提示注入攻击的抵抗能力。公司表示,GPT-Red 通过自对抗强化学习生成更强攻击样本,在内部评估场景中的成功率为 84%,高于人工红队在同类测试中的 13%。OpenAI 还称,该工具暂不对外开放,因为其包含刻意构建的攻击能力。

Anthropic的Claude Chrome扩展(低于1.0.41版本)存在严重提示注入漏洞,攻击者可通过恶意iframe执行XSS攻击,窃取Google Drive文档和访问令牌。用户需立即更新至最新版并防范钓鱼攻击。
