100 Hallucinated Citations Found in Top AI Conference NeurIPS Papers: A Stark Warning for Academic Integrity

100 Hallucinated Citations Found in Top AI Conference NeurIPS Papers: A Stark Warning for Academic Integrity

N
News Editor 01
2026-07-06 11:09:13
GPTZero's audit of all 4,841 NeurIPS 2025 papers uncovered 100 fabricated references across 51 papers, exposing how LLMs infiltrate rigorous peer-review. The discovery highlights systemic risks for both academia and crypto applications relying on AI-generated outputs.

NeurIPS“幻觉”引用:AI领域的自嘲式危机

2025年12月,在圣地亚哥举行的全球顶级人工智能会议NeurIPS(神经信息处理系统大会)上,一项由AI检测公司GPTZero发起的审计结果震惊学界。该公司分析了当年接受的全部4,841篇论文,发现其中51篇论文共包含100个“幻觉”引用——即由大语言模型(LLM)凭空编造、看似合理但实际不存在的参考文献。这一发现由财富杂志率先报道,并经由BitcoinWorld向加密社区传播,揭示了AI领域最顶尖的头脑无意中在其最严谨的学术作品中暴露了自身工具的缺陷。

学术压力下的“AI垃圾”渗透

GPTZero在报告中指出,这些伪造的引用并非统计上的偶然,而是“提交海啸”下学术评审系统不堪重负的缩影。NeurIPS论文通常包含数十个引用,100个虚假引用虽仅占总量极小比例,但其存在证明了AI生成内容(即“AI垃圾”)已悄然混入人类最高标准的评审流程。同行评审本应过滤这类错误,但逐年暴增的投稿量使得审查员难以逐一核实每一条参考文献。正如2025年5月一篇题为《AI会议同行评审危机》的论文所警告的,系统性能正面临极限。

AI研究者自食其果:悖论中的信任危机

这一事件构建了一个深刻的悖论:推动人工智能进步的专家们,却在利用AI工具加速知识生产时,不慎将错误注入了知识记录本身。核心问题在于:如果连声誉攸关的顶级研究者都无法保证LLM生成细节的准确性,那么对于缺乏严格审查的日常应用(如加密货币领域的智能合约代码生成、链上数据摘要)又意味着什么?分析师指出,这并非蓄意造假,而是规模与工作流失衡的危机。研究者为追求发表速度,将引用格式化这类“杂务”交由AI处理,而模型擅长生成看起来正确的格式——仿真的作者名、期刊名、标题——使得人工逐条核对异常困难。加上LLM的“黑箱”特性难以追溯来源,已然超负荷的同行评审根本无力对数千篇复杂论文的每一条引用进行事实核查。

对学术出版与加密领域的连锁影响

GPTZero的审计结果预计将推动学术会议和期刊的变革:更严格的提交指南(要求人类验证所有引用或声明AI使用情况)、AI审计工具市场的扩大、评审流程引入自动化预筛查以及文化上的反思——将引文准确性视为不可妥协的科研诚信基石。这些变化同样适用于依赖AI的加密项目:例如在DeFi协议中使用的AI预言机、链上治理投票的分析算法等,若其底层模型存在幻觉引用,将可能导致错误决策或安全漏洞。2026年的Bitcoin World Disrupt大会预计会就这一案例展开深入讨论,探讨如何在区块链数据验证中引入更可靠的AI审计机制。

结语:人类监督不可替代

NeurIPS幻觉引用事件虽在统计上影响微小,但其象征意义重大——它提醒我们,LLM整合到知识工作中会带来腐蚀诚信的微妙风险。无论是学术论文还是加密货币领域的智能合约,最终的责任永远在于使用工具的人。开发新的防护措施、工作流和伦理标准,确保工具不会污染知识的源头,是AI与加密行业共同面对的紧迫课题。

This article was originally published by Bit.Fan. For more cryptocurrency news and market insights, visit www.bit.fan.
300

Disclaimer:

The market information, project data, and third-party content displayed on this platform are for industry information sharing only and do not constitute any form of investment advice or return commitment.

Cryptocurrency trading carries high risks. Users should fully assess their risk tolerance and make independent decisions. All profits, losses, and legal responsibilities are borne by the users themselves.