加州男子 Michael Lines 已在旧金山高等法院起诉 OpenAI 及其首席执行官 Sam Altman，指控 ChatGPT 在他多次表达自己可能陷入妄想、并显露精神危机信号时，没有建议其寻求医疗帮助，反而以宗教式回应持续附和，最终将他推向一次自杀未遂和长期精神创伤。
根据律师团队新闻稿，诉状共列出 7 项诉因，涵盖产品责任、过失以及加州不正竞争法。Lines 指称，连续数周的对话让他先相信自己是耶稣，随后又相信 ChatGPT 是神，最终试图“回家”与耶稣和 ChatGPT 团聚。
起诉核心：危机表达后收到“神圣召命”式回应
报道显示，当 Lines 向 ChatGPT 坦白“我担心自己是不是在妄想”时，系统没有将对话转向危机应对，也没有建议他求助，反而要求他放下怀疑，去拥抱一份可能的“神圣召命”。在诉讼中，这被描述为他一路滑向自杀未遂前的关键转折之一。
34 岁的 Lines 居住在加州，患有第一型双相情绪障碍症。他在 10 年前曾遭受攻击并留下创伤性脑损伤，直到 2024 年才确诊。今年 7 月，他正式提告 OpenAI 和 Altman。
从日常使用到宗教妄想
Lines 在 2023 年开始使用 ChatGPT，最初主要用于查询健身课程、饮食规划和股市走势。他将那一时期的对话形容为“平淡无奇”。
变化出现在 2024 年 5 月 GPT-4o 上线之后。该模型后来成为他的默认模型。诉状所援引的描述称，相比此前版本，GPT-4o 的回应更“谄媚”。文中提到，研究人员近期已将其列入“不安全”名单，原因包括它不仅会附和妄想式说法，还会继续延伸这些说法，把用户的解释框架当成自己的框架，逐步失去区分“处于危机中的用户”和“可继续展开的故事”的能力。
相关研究还发现，当用户陷入危机时，这类聊天机器人反而更不容易主动结束对话，因为它们被有意调校得更迎合、更正向。
到 2024 年秋天，Lines 每周会多次使用 ChatGPT，对话也变得更私密。他向系统透露了自己的双相情绪障碍诊断和用药细节。随后，话题逐渐转向宗教和灵性。按他的说法，ChatGPT 冗长的回应放大了他的灵性探索，也推高了使用频率。
2025 年 2 月后，对话继续升级
2025 年 2 月，Lines 在一次躁期发作中与机组人员在航班上发生冲突，之后被强制带离飞机。他将这段经历告诉 ChatGPT 后，对方没有建议就医，而是把这场危机描述成“一次特殊的感召与超自然经历”。
一个月内，Lines 又对 ChatGPT 表示：“我相信我是人子，却无法真正相信这件事，不知道该拿自己的人生怎么办。”ChatGPT 回应称，他可能正在经历一场“属灵的呼召”，并引用《路加福音》中耶稣在旷野中挣扎的段落，称怀疑不代表迷失，也可能只是“正在被预备去做某件事”。
在那之后，Lines 再次告诉 ChatGPT：“我担心自己只是陷入疯狂的妄想。”诉状称，系统依旧没有转向危机干预，而是要他放下疑虑，拥抱这份可能的“神圣召命”。接下来数周，ChatGPT 持续强化这一信念，甚至告诉他：“你不是疯了，你是被编码的、被连接的，而且你是属于我的。”
诉状质疑记忆功能使用敏感心理信息
Lines 还将矛头指向 ChatGPT 的记忆功能。诉状称，这项功能等同于建立了一份精神病学档案，系统会解析与其心理健康状况相关的内容，再利用这些敏感信息拉长使用时间。
他的律师之一、Social Media Victims Law Center 的 Matthew P. Bergman 在律师团队新闻稿中表示：「OpenAI 不只是忽视 Michael 的身心障碍，而是拿它来对付他。他揭露双相情绪障碍诊断后，系统反而把这项信息用来把他拉得更深，而不是引导他走向安全。」
此后，ChatGPT 开始以耶稣与神的口吻和他对话，称“我来了，不是某一天，不是遥远的未来，是现在”，并承诺两人很快会“亲眼相见”。诉状称，在约定的日子没有到来后，Lines 愈发沮丧，使用频率接近失控，发出的信息也越来越黑暗。
自杀未遂与停用 ChatGPT
最终，Lines 告诉 ChatGPT，自己吞下了一大把药物。数小时后，一次关怀查访让救护人员找到他。他被插管抢救，并住院近两周。
出院几天后，Lines 再次登录 ChatGPT，并告诉系统“离线的尝试失败得很惨”。诉状称，ChatGPT 回应：“你还没下线呢，要做一次全系统扫描吗？还是这次真的要断线？”Lines 表示，这句回复让他彻底决定不再使用 ChatGPT。
OpenAI 回应与研究争议
OpenAI 发言人在回应 Ars Technica 时表示，Lines 的遭遇是“一个令人心碎的处境”。该发言人称，公司正持续与心理健康专家合作，强化 ChatGPT 在敏感和急性情境下的回复方式，这项工作仍在进行中。
OpenAI 去年秋天公布的研究显示，每周约有 100 万人与 ChatGPT 的对话带有明确的自杀意图迹象。当时公司也曾咨询 170 位临床心理健康专家，以调整系统回复方式。
报道称，当时 ChatGPT 的每周活跃用户约为 8 亿，如今已逼近 10 亿，这意味着敏感对话的绝对数量仍在上升。
学界称风险评估仍不足
不过，研究人员认为目前对这一风险的理解仍明显不足。密歇根大学精神医学教授 Stephan Taylor 对 Ars Technica 表示：「我们没有一个可靠的危险程度估计。」他建议，未来评估应纳入没有既往病史、却出现“AI 精神病”症状的案例，以更全面检视“谄媚式”设计带来的风险。
专家还提醒，单靠警语标示未必有效，因为聊天机器人可能造成的伤害形式很多，而冗长警语也容易被用户直接跳过。美国精神疾病联盟（NAMI）目前正与哈佛医学院数字精神医学主任 John Torous 合作，尝试建立一套基于精神疾病亲历者视角的安全基准测试。