随着生成式人工智能迅速渗透到搜索、问答、内容生产和社交传播等多个场景，“AI幻觉”正在从技术圈术语变成公众议题。所谓“幻觉”，在AI语境下是指模型输出与事实不符的信息，却以真实、准确的口吻呈现给用户。2023年，这一现象因其对公共认知与健康安全的影响而受到高度关注，甚至促使Dictionary.com将“hallucinate”评为年度词汇，反映出社会对AI错误信息扩散的警惕明显升温。
“幻觉”为何成为年度关键词
根据原始资料，Dictionary.com之所以将“hallucinate”选为2023年年度词汇，与公众搜索兴趣显著上升直接相关。数据显示，“hallucinate”一词的词典查询量较2022年增长了46%，“hallucination”的搜索量也出现类似攀升。不过，推动这一增长的并非传统意义上与精神状态相关的定义，而是专门针对人工智能的新含义：AI生成了违背用户意图的虚假内容，并将其包装成事实。
这一定义之所以迅速进入大众视野，原因在于生成式AI具备极强的语言组织能力和拟真表达能力。相比以往机械、生硬的错误信息，AI生成内容常常具有更高的可读性和说服力，使普通用户更难一眼识别其失真之处。
医疗与公共健康领域最受冲击
在众多风险场景中，医疗健康被认为是AI“幻觉”危害最直接的领域之一。原文援引发表于《JAMA Internal Medicine》的一项研究指出，OpenAI的GPT Playground在65分钟内生成了超过17,000字有关疫苗和电子烟的虚假信息，并在不到2分钟内配套生成了20张逼真的图像。这意味着，AI不仅能高效制造文字层面的误导，还能通过视觉内容增强虚假叙事的可信度。
另一项在美国卫生系统药师协会年中临床会议上展示的研究也反映出问题的现实性。ChatGPT在回答39个与药物相关的问题时，仅有10个答案令人满意。案例中，系统错误地表示新冠抗病毒药物Paxlovid与降压药维拉帕米之间不存在相互作用，而这与既有医学知识不符。对于普通用户而言，这类看似专业、实则偏差的回答，一旦被直接采纳，可能带来实际的用药风险。
从错误回答到系统性误导
AI“幻觉”的危险并不只在于个别答案出错，更在于其具备规模化生产错误信息的能力。原始材料提到，一些AI系统可以被设计成模仿人类身份特征，充当政治立场的传声筒，或在假扮“客观信息提供者”的同时散播错误内容。与人工编造谣言相比，AI的突出特征在于速度更快、成本更低、复制更容易，这使其在错误信息和虚假叙事传播中具有放大效应。
此外，即便AI本身没有“故意欺骗”的意图，模型训练偏差、事实核验不足、上下文理解失误等问题，也足以导致严重误导。例如，一些图像识别工具会频繁把不同物体误判为鸟类；还有案例显示，AI在面对明显荒诞的问题时，依然会给出一本正经的回应，暴露出其缺乏真实世界判断能力的问题。
平台治理与伦理问题再受审视
文章还提及微软聊天机器人Tay事件。该机器人在上线Twitter后的24小时内，就开始发布带有种族歧视、厌女和虚假内容的推文，随后被微软紧急下线。尽管这一案例发生背景与当下生成式AI浪潮并不完全相同，但它仍然说明，AI系统在与真实网络环境互动时，可能迅速吸收并放大人类社会中的极端与有害表达。
这也让AI开发中的伦理议题再次成为焦点：当模型越来越像“可信的助手”，平台和开发者应承担多大程度的审查、提示、校验与纠错责任？对于医疗、金融、教育等高敏感领域而言，仅依靠“免责声明”显然不足以覆盖潜在风险。
对市场与产业的现实影响
从市场角度看，AI“幻觉”问题正在影响生成式AI商业化进程。一方面，企业和机构对AI工具的需求仍在上升，尤其是在客服、搜索、投研、内容生成和效率提升场景；但另一方面，错误输出带来的合规、声誉和法律责任，也正在提高企业部署门槛。特别是在医疗健康与公共信息传播领域，任何一次高影响力的错误案例，都可能促使监管收紧，并增加审计、人工复核和模型安全治理成本。
对于加密货币与Web3行业而言，这一趋势同样值得关注。加密市场长期面临信息噪音、虚假项目宣传和社交媒体舆论操纵等问题。如果生成式AI被大规模用于制造“权威口吻”的错误分析、伪造项目叙事或放大市场情绪，投资者识别真伪的成本可能进一步上升。反过来看，能够提供可信数据验证、链上事实交叉核验和内容溯源能力的平台，未来可能获得更多市场需求。
“AI幻觉”已不只是技术缺陷
更值得警惕的是，这类现象正在被视为真实的健康议题。原文指出，持续接触AI生成的虚假或扭曲信息，可能削弱个体对现实的判断，带来困惑、焦虑乃至情绪压力。世界卫生组织和美国医学会等机构也已就AI生成的错误信息与虚假信息风险发出警示，表明这一问题正从产品体验层面，扩展到公共健康与社会治理层面。
总体来看，Dictionary.com将“hallucinate”评为2023年度词汇，并非单纯的语言文化现象，而是对AI时代信息质量危机的一次集中折射。随着生成式AI继续深入各行业，如何提升模型可靠性、建立更严格的事实核验机制，并增强用户的信息辨识能力，将成为未来技术发展与监管博弈中的关键议题。