2020年12月，时任谷歌伦理 AI 团队共同负责人的 Timnit Gebru 在休假期间收到解雇邮件，起因是一篇她拒绝撤下的研究论文。那篇文章在2021年3月发表于 ACM FAccT 会议，题为《论随机鹦鹉的危险：语言模型会不会太大？》。五年后回看，这篇14页论文提出的多项风险警告，已在现实中陆续出现对应案例。
一篇论文引发的离职风波
谷歌当时要求作者撤稿，或去掉员工署名。Gebru没有接受，随后被解雇。该论文共有6位共同作者，其中4位是谷歌员工，另一位署名“Shmargaret Shmitchell”，即 Margaret Mitchell，她之后也遭谷歌解雇。论文讨论的对象是大型语言模型，核心不是单一产品缺陷，而是这类系统在结构层面存在难以回避的风险。
文章列出五类问题：幻觉与缺乏理解、偏见放大、环境成本、训练数据无法稽核，以及语言中心化对低资源语言的伤害。论文还提出更尖锐的一点：开发 LLM 的公司，受到财务和竞争压力驱动，很难让安全与伦理审查真正拖慢产品上线速度。这个判断很冷。也很直接。
从“幻觉”到偏见，论文中的警告被现实反复验证
在“流畅但无理解”这一点上，论文早在2021年就描述了后来被广泛称作“幻觉”的现象：模型只是基于概率拼接语言形式，并不具备对意义的真实理解。输出��起来顺畅，不等于内容可靠。这种情况已成为 AI 用户最常见的问题之一。
在偏见问题上，论文指出历史数据会把既有歧视继续放大。文中提到，Amazon 自2014年开发的 AI 招聘工具，因系统性歧视女性求职者，于2018年被废弃；模型从以男性为主的历史简历中学习“优秀工程师”的样子，导致包含“women’s”字样的简历被自动扣分。另一项发表于《Science》的2019年研究则显示，一个被广泛使用的医疗风险算法以医疗花费替代病情严重程度，结果使黑人患者在相同风险分数下实际病情更重。修正后，被标记为需要额外照护的黑人患者比例将从17.7%升至46.5%。
环境代价和数据审计难题同时暴露
环境成本是论文中另一个被低估的议题。文中引用 Strubell 等人在2019年的研究，提醒外界不要低估训练模型的排放代价。后来流传很广的“训练一个模型等于5辆汽车终身排放”这一说法，来源于神经架构搜索这一极端场景，对应约284公吨 CO2e，并不适用于所有模型。
但现实中的压力并未减轻。谷歌2024年环境报告显示，2023年温室气体排放约为1430万公吨 CO2e，较2019年基准增加48%，主要原因是 AI 推动数据中心用电上升，并对其2030年碳中和目标形成直接压力。
数据无法稽核的问题也有了更具体的案例。2023年12月，斯坦福网络观测站在 LAION-5B 数据集中发现3226笔疑似儿童性虐待内容，其中1008笔经外部机构确认。该数据集包含58.5亿组图文对，曾被用于训练 Stable Diffusion。事件曝光后，数据集随即下架。规模越大，审计就越困难，论文当年的判断在这里得到了清晰印证。
低资源语言被边缘化，最深层问题是激励机制
论文还提醒，英语主导的语料库会拉大语言能力差距。后来有一种被误传的说法称“57%的新英文网页由 AI 生成”，原文并未支持这种表述。Thompson 等人在2024年的研究分析了由63.8亿个句子组成的网络语料库，发现其中57.1%属于多语平行集合，即很可能是机器翻译生成的低质量重复内容，而且在低资源语言中的比例更高。
这意味着，低资源语言面对的问题不只是训练材料不足，还可能被大量低质量机器翻译文本污染。回到 Gebru 论文最核心的命题，真正难以修复的不是某个具体 bug，而是系统背后的激励机制：竞争压过审查，规模压过可稽核性，速度压过安全。她在收到那封解雇邮件时，这套机制已经显形。