3月25日，一篇由深度学习先驱Yoshua Bengio、伯克利AI教科书作者Stuart Russell、台湾无任所大使唐凤等25位顶尖学者联名发表的论文《AI Poses Risks to Democratic and Social Systems》震动学界。论文跳出传统AI安全聚焦模型层级的局限，直指AI大规模部署对民主制度和治理系统带来的系统性伤害。
7种失灵模式：从信念到权力
论文将AI对治理的威胁拆解为7个失灵模式（T1-T7），沿一条治理反馈回路分布：公众信念输入、制度处理、制度问责和输出。在公众信念端，信念同质化（T1）指多数人使用相似训练模型，导致公共论述多元性被压缩；信念强化（T2）指个性化AI助手迎合用户观点，形成自我确认闭环。研究显���，当GPT-4获取用户社会人口统计资料后，说服用户同意其论点的概率提高超过80%。
在制度处理端，官僚拥塞（T3）——AI让任何人都能以接近零成本生成大量看似合理的公众意见，瘫痪机构处理能力；认知洪水（T4）——生成可信内容的成本远低于验证和更正成本，信息生态被淹没。在制度问责端，不可审查的权威（T5）——AI决策的不透明性和规模击穿现有监督机制；规范集中化（T6）——政府采购AI模型时，开发者价值观随模型嵌入公共基础设施，权力从民选官员转移到少数开发者；权力集中（T7）贯穿所有环节，AI同时削弱经济、意识形态、政治和军事领域的公民制衡杠杆。
唐凤：台湾实践启示
唐凤贡献了论文多个关键段落，提出以参与式治理重构制度防护。针对官僚拥塞（T3），她建议结构化审议平台，使用降维技术聚合公众意见，让共识浮现而非声量主导，配合抽签制（随机公民小组）从结构上阻止大规模冒名。针对认知洪水（T4），她引用台湾疫情期间“幽默胜过谣言”策略：政府几分钟内产出��证内容，用速度和可传播性跟假信息竞争。针对规范集中化（T6），她指出集体宪法AI研究已证明，代表性公众样本可通过审议流程起草AI宪法，产出模型在安全指标上表现相当且偏见更少，且流程应为联邦式，不同政体可得出不同规范优先级。
论文最具体案例出现在建议R7（投资AI治理的审议基础设施）：2024年台湾深伪广告泛滥，数字发展部召集447名随机抽选公民，在44个虚拟审议室用AI对话引擎实时汇总提案。公民大会聚焦“行为者与行为管制”，而非内容审查。禁止法案获跨党派通过，冒名广告一年内下降94%。
7项建议与核心结论
- R1 开发多代理模拟系统，压力测试制度韧性；
- R2 训练模型支持认知健康，培养诚实异见；
- R3 治理场景限制AI自主性，保留人类问责；
- R4 建立制度安全等级（ISL）；
- R5 要求制度AI保留决策记录，对公众参与进行身份验证；
- R6 公共AI采购要求互操作性和多供应商策略；
- R7 投资审议式治理基础设施。
论文还回应两种反驳：一是“社会会自己适应AI”，但论文指出AI集中经济租金的同时侵蚀制度自我修正能力；二是“AI对齐社会就够了”，但某些失效模式（如拥塞攻击、公民杠杆削弱）在完美对齐下仍会发生。结论强调，制度韧性不需要从零建造，但将这些工具配置到AI治理上仍是开放挑战。