OpenAI 周三发布报告称，一个源自俄罗斯的网络利用 ChatGPT 推广一家将自己包装成学术研究机构的组织。
OpenAI 表示，已封禁一组账号。这些账号的操作者使用俄语提示词生成社交媒体帖子和评论，内容大多为英文，同时还要求 ChatGPT 掩盖这些内容来自俄罗斯的痕迹。
OpenAI 在报告中写道：「尽管这场行动似乎只触达了相对较小的受众，但其构造之复杂，使其不同于我们自乌克兰战争开始以来破坏的其他与俄罗斯有关的影响力行动。」
由于 ChatGPT 无法在俄罗斯使用，OpenAI 称，该组织借助虚拟专用网络（VPN）隐藏所在地并访问这项服务。
借“国际伯克研究所”包装学术身份
该组织利用 ChatGPT 推广 International Burke Institute。这个机构自称是一个设在以色列的专家组织，并通过看起来正式的账号资料以及伪装成普通用户的账户对外传播。
OpenAI 发现，在其审查的该机构网站 36 篇文章中，有 34 篇属于复制内容，其中一些还被署名给并未撰写这些文章的学者。
OpenAI 写道：「这些文章中，有些已经发布多年；另一些则被错误归给了不对应的作者。」
报告举例称，一篇关于中巴经济走廊的文章似乎复制自 Cambridge University Press 的原始内容，却被错误署名给诺丁汉大学一名教授，而该教授的研究专长是南亚政治。
并非首个与俄罗斯有关的生成式 AI 影响行动
类似的政治影响行动此前也曾使用生成式 AI。
OpenAI 表示，2024 年其识别出另一项与俄罗斯有关的行动 Doppelganger。该网络使用 ChatGPT 创建文章、社交媒体帖子和评论，内容包括赞扬俄罗斯以及攻击乌克兰、北约和美国。
与俄罗斯有关的团体也曾将 ChatGPT 用于网络行动。OpenAI 称，一个与俄罗斯军事情报相关、名为 Forest Blizzard 的组织曾使用该聊天机器人研究目标、编写脚本，并为网络钓鱼攻击提供支持。
不过，尽管该组织可能使用了俄语提示词，OpenAI 并未将这场 IBI 行动归因于俄罗斯政府。
以色列相关人员关系仍不明确
据 OpenAI 介绍，一些身在以色列的人可能曾代表该机构参加会议，或以提交文章的方式与其发生联系，但他们与这场行动之间的关系仍不清楚。
OpenAI 写道：「我们无法判断这些个人、IBI 以及俄罗斯境内操作者之间的关系。」