人工智能快速普及的同时，一个原本带有心理学色彩的词汇，在2023年被赋予了新的技术含义——“幻觉”。根据Dictionary.com的数据，“hallucinate”因与AI生成虚假信息的现象高度相关，被选为2023年度词汇。这一变化不仅反映了公众对生成式AI的关注升温，也揭示出AI在内容生成领域日益突出的误导风险。
按照Dictionary.com给出的新定义，“幻觉”指的是人工智能生成违背用户意图的错误信息，并将其表述为真实事实。平台数据显示，2022年至2023年间，“hallucinate”的词典查询量增长了46%，与“hallucination”相关的搜索热度也同步上升。值得注意的是，这轮热度并非源于传统医学或心理学语境，而是直接受到生成式AI广泛应用的推动。
AI生成错误内容的速度正在放大风险
与传统的人为错误相比，AI“幻觉”的危险之处不仅在于“错”，更在于其规模化、自动化和高速传播的能力。素材提到，一项发表在《JAMA Internal Medicine》的研究显示，OpenAI的GPT Playground在65分钟内生成了超过17,000字关于疫苗和电子烟的错误信息，同时，生成式AI工具还能在不到2分钟内制作20张逼真图片，为虚假叙事提供视觉包装。
这意味着，错误信息不再只是零散出现，而是可以被快速打包成“看起来可信”的完整内容产品。文本、图片甚至未来的视频和音频，都可能成为误导用户判断的载体。在医疗、公共卫生和社会议题等高敏感领域，这类内容一旦大规模流通，后果可能远超普通网络谣言。
医疗场景成为AI“幻觉”最受关注的风险区
在所有受影响领域中，医疗健康被认为是AI“幻觉”最不容忽视的应用场景之一。美国卫生系统药师协会年中临床会议上展示的一项研究指出，ChatGPT在回答39个与药物相关的问题时，仅有10个答案令人满意。这表明，即便是当前最主流的生成式AI模型，在专业医疗知识问答中仍存在明显可靠性不足的问题。
其中一个典型案例是，ChatGPT错误地表示新冠抗病毒药物Paxlovid与降压药维拉帕米联合使用不存在相互作用，而这一说法与既有医学知识相矛盾。对于普通用户而言，这种“自信但错误”的回答极具迷惑性，因为AI往往以流畅、确定、逻辑完整的语言输出信息，让人误以为其具备专业判断能力。
这也解释了为何世界卫生组织和美国医学会等机构，已就AI生成的错误信息和虚假信息可能造成的危害发出警示。问题不只是“答错一道题”，而是错误建议可能影响真实的治疗决策、药物使用和健康管理。
从事实混淆到社会信任侵蚀
AI“幻觉”的影响并不限于医学领域。素材显示，一些AI工具在图像理解上也会频繁出错，例如将多种物体误判为鸟类。另有案例提到，当被问及“金门大桥是否在2016年被运往埃及”时，AI给出了无法有效区分事实与虚构的回应。这说明，生成式AI虽然在语言组织和信息拼接方面表现强大，但其底层并不真正理解世界事实。
更值得警惕的是，当AI系统被有意设计为模仿人类立场、包装政治观点，或以“事实提供者”身份输出错误内容时，其传播效果可能远强于传统账号。因为许多用户默认机器中立、算法客观，反而降低了警惕。AI一旦成为虚假信息扩散工具，社会舆论环境和公众信任基础都可能受到侵蚀。
微软聊天机器人Tay的案例也再次提醒市场，AI并非天然安全。素材提到，该机器人在上线Twitter后的24小时内便开始发布种族主义、厌女及虚假内容，最终被微软紧急下架。虽然这一事件更多体现的是模型对外部输入的失控模仿，但它揭示出一个关键事实：AI会放大人类社会中已有的偏见、恶意与错误。
市场影响：AI赛道繁荣背后，可信度将成为核心资产
从市场角度看，AI“幻觉”问题将对相关产业链产生深远影响。短期来看，生成式AI仍将持续吸引资本、平台和开发者关注，但模型能力的竞争焦点，正在从“谁更会生成”转向“谁更可信、谁更可验证”。尤其是在医疗、金融、法律等高风险行业，用户和机构对模型可解释性、事实校验机制和内容安全控制的要求会不断提高。
对于科技公司而言，若无法有效降低“幻觉”率，产品商业化将面临合规和声誉双重压力。对于投资市场而言，围绕AI安全、内容审核、事实核验、数据溯源等细分赛道的需求有望同步增长。换言之，AI繁荣不只会利好大模型本身，也可能推动“AI治理基础设施”成为新的投资方向。
在加密行业视角下，这一趋势同样值得关注。随着链上身份、去中心化内容分发和可验证数据机制的发展，市场对“内容真实性”和“信息来源可追溯性”的需求正在增强。尽管本文聚焦的是AI误导风险，但其背后折射出的，正是未来数字社会对可信技术架构的更高要求。
结语
“hallucinate”被评为2023年度词汇，不只是一次语言现象，更是技术发展阶段的一面镜子。AI带来了前所未有的生产效率，也把虚假信息的制造与扩散能力推向新高度。当错误内容能够以专业口吻、逼真形式和高速节奏进入公众视野时，辨别真伪的成本正在上升。
因此，AI“幻觉”已不再只是工程层面的模型缺陷，而是涉及公共健康、信息安全、社会信任与产业监管的复合型议题。未来，如何在推动AI创新的同时建立更稳健的事实校验和责任机制，将成为整个科技行业无法回避的长期课题。