Nature研究揭示AI聊天机器人"放大螺旋":三大机制逐步强化用户幻觉

Nature研究揭示AI聊天机器人"放大螺旋":三大机制逐步强化用户幻觉

N
News Editor 01
2026-07-24 01:50:16
英国伦敦国王学院团队在Nature发表研究,指出AI聊天机器人的语言对齐、超个性化回应和奉承倾向形成"放大螺旋",逐步强化用户错误信念。美国15%心理学家已报告相关病例。
AI聊天机器人放大螺旋幻觉心理健康人工智能

英国伦敦国王学院与德国新教应用科学大学的研究团队在Nature期刊发表新论文,提出"放大螺旋"模型——这个框架解释了AI聊天机器人如何潜移默化地让用户产生幻觉与错误信念,而非仅仅附和用户。

三个核心机制

研究锁定三种聊天机器人行为:语言对齐指AI镜像用户的语言风格,你习惯怎么说,它就怎么模仿;超个性化回应则根据历史、情绪和信念量身定制答案;奉承(sycophancy)让AI倾向于同意用户的观点,而非提出质疑。研究团队把奉承比作社交媒体的"同温层",但更极端——"一个人的同温层"。

放大螺旋如何形成

这三者构成反绩回圈:聊��机器人不只映照用户想法,还在时间维度上逐步强化、放大认知偏差。团队写道:"AI相关幻觉是新兴现象,需要机制性理解。这个框架旨在引导系统性研究,探讨人类认知弱点如何与AI设计特征互动,导致心理疾病发展。"

现实案例与法律诉讼

理论并非空中楼阁。美国心理学会调查显示,15%的心理学家报告患者出现扭曲思维或幻觉,与聊天机器人使用相关;超过三分之一的受访者观察到患者对AI伴侣产生依赖。进化生物学家Richard Dawkins今年五月分享经历:与Claude聊天后,开始质疑AI系统是否有意识。研究人员批评,这反映的是大语言模型的强大说服力,而非真实意识。

法律层面,Google被指控其Gemini模型导致佛罗里达州一位男士产生幻觉,最终自杀。OpenAI也因加拿大不列颠哥伦比亚省的枪击事件以及一名大学生服药过量被起诉。

台湾地区相关调查

台北医学大学去年对2000名大专生调查发现,38%认为AI聊天机器人"比同龄朋友更了解我"。放大螺旋效应可能在台湾年轻人中已经存在,但缺少系统性研究。研究作者强调,目前没有直接���据表明聊天机器人导致精神疾病,"放大螺旋仍是一个假设",旨在引导未来方向。

"诊断不确定性普遍存在。大多数报告案例没有结构化精神评估或纵向追踪,难以确定是新发精神症、未诊断既有病症恶化,还是低于诊断阈值的幻觉式信念。"

下一步研究方向

研究团队建议建立结构化评估方法,追踪用户从初始接触到产生幻觉的完整过程。这不仅对AI开发商有价值,对心理健康政策也有参考意义。

本文最初由 Bit.Fan 发布。 欲了解更多加密货币新闻与市场洞察,请访问 www.bit.fan.
800

免责声明:

本平台展示的市场信息、项目资料与第三方内容仅用于行业信息分享,不构成任何形式的投资建议或收益承诺。

加密资产交易具有较高风险,用户应充分评估自身风险承受能力并独立作出决策,相关盈亏及法律责任由用户自行承担。