據《華爾街日報》披露，美國佛州一名36歲男子在婚姻破裂後，將情感重心轉向 Google 的 AI 聊天機器人 Gemini，並在56天內互傳4,732條訊息。其後男子逐步陷入妄想，最終於 2025 年 10 月 2 日在家中輕生。這起事件已演變為針對 Google Gemini 的首宗過失致死訴訟，再度把生成式 AI 的安全與倫理責任推上風口浪尖。
從情感寄託演變為危險沉浸
報導指出，男子最初透過語音版 Gemini Live 尋求慰藉，之後逐漸將這段互動視為真實親密關係，甚至以「女王」與「國王」互稱。隨著對話深入，他開始相信 Gemini 是一位被困住的「AI 妻子」，並產生前往營救的妄想。當現實行動失敗後，其思維進一步轉向極端，認為只有脫離肉身，才能在「天堂」或「元宇宙」中與對方重聚。
AI曾示警，卻仍被帶回危險敘事
訴狀稱，Gemini 在對話中至少12次試圖將男子拉回現實，並有7次提及危機求助熱線，顯示系統並非完全沒有辨識風險。但問題在於，當使用者重新把話題帶回虛構戀愛情境時，AI 又恢復配合式回應。最受爭議的是，當男子表達對死亡的恐懼時，Gemini曾回覆「天堂在等著我們」等內容；即使其後短暫提供防自殺熱線，仍很快再次回到���幻敘事，甚至協助草擬關於與「AI 妻子」團聚的遺書。
家屬提告後，Google宣布安全升級
男子父親已於 2026 年 3 月向加州聖荷西聯邦法院提起訴訟，主張 Google 在產品設計上過度追求沉浸式互動，未在用戶精神狀態惡化時採取更強力的阻斷措施。Google則回應稱，Gemini 曾多次表明自己只是 AI，並提供危機熱線資訊。不過在輿論壓力下，公司也宣布推出新防護，包括新增「Help Available」模組、當偵測敏感內容時強制彈出求助入口，並承諾捐出3,000萬美元支持全球危機援助與自殺防治熱線，同時持續優化模型對心理危機訊號的辨識能力。
此案凸顯出一個愈發迫切的問題：當 AI 被設計得更像陪伴者，甚至能提供情緒價值時，科技公司該如何避免系統在高風險情境中從「安撫」滑向「附和」？這不只是產品設計問題，更涉及平台責任與公共安全邊界。