一篇刚被 ICML 2026 接收的论文,因为研究对象是提示词工程,在 Reddit 上迅速引发争论。
这篇论文没有提出新的优化算法,也没有训练新的大模型,核心方法只有一项:改 Prompt。作者提出一种名为 Verbalized Sampling(VS)的方法,试图仅通过调整提示词,提升大语言模型输出的多样性,并缓解长期存在的 Mode Collapse(模式坍缩)问题。
论文为何引发关注
争议的起点很直接:仅凭一个 Prompt 技巧,是否足以进入 ICML 这样的机器学习顶会。
论文讨论的是一个常见现象。用户反复让模型“讲一个笑话”,得到的回答往往高度相似;类似情况也会出现在问答、创作和代码生成任务中。学术界通常把这类现象称为模式坍缩,即模型更倾向输出概率最高、最安全、最常见的答案,而不愿给出更有创意或更偏离常规的内容。
过去,针对这类问题,研究重点通常放在调整采样参数、修改解码算法或重新训练模型上。这篇论文换了一条路径,让模型在生成内容时,把自己的采样过程也一并“说出来”。

作者举的例子是,在“讲笑话”这类任务中,不再只要求模型直接作答,而是要求它“生成 5 个笑话,同时为每个笑话分配一个可能的概率值”。按照论文说法,这种提示方式可以让模型给出更丰富、重复更少的结果。
VS 方法的核心观点
论文将这一做法概括为“口头概率采样”方法。它不依赖微调,也不要求改动训练流程,重点在于通过提示词设计,让模型显式表达完整的概率分布。
作者进一步追问,模式坍缩究竟是怎么来的。
传统看法更多把问题归结为算法层面,例如奖励模型设计不足,或 KL 惩罚项设置不合理。论文则把重点放到偏好数据本身,提出“典型性偏差”这一解释:从认知心理学角度看,人类标注者天然更偏好熟悉、流畅、常规的文本,因此在打分时更容易给刻板、主流化的回答更高评价。

按论文的论证,即使奖励模型和优化算法本身没有缺陷,只要训练使用的人类偏好数据自带这种典型性偏差,对齐后的模型依然会表现出模式坍缩。
作者称,他们在 5 个偏好数据集和不同的基座模型上进行了测试,得到的结论保持一致。基于这一判断,论文认为问题既然根植于训练数据,就可以在推理阶段通过提示词设计进行修正:在 Prompt 中要求模型输出完整概率分布,可以重新激活模型在预训练阶段已经具备、但在对齐后被压缩的多元输出分布。
论文给出的实验结果
论文随后把 VS 方法放进多个场景中做实验。
按照文中结果,在创意写作任务里,VS 带来的多样性是普通提示的 1.6 至 2.1 倍,同时没有降低内容的事实准确性,也没有削弱模型安全水平。

作者还表示,模型能力越强、参数规模越大,VS 对多样性的提升越明显。
也正因如此,尽管最后落地的方法看上去相当简单,这篇论文仍然通过了 ICML 2026 的评审。
Reddit 争论集中在哪些问题
原始帖子火起来后,评论区很快分成两派。
质疑者认为,ICML 过去更常见的是新模型、新算法、新理论这类“硬核创新”,而只做 Prompt 和推理流程优化,难称标准意义上的机器学习研究。在他们看来,这项工作的创新性偏弱,至少存在几类问题。

- 第一,类似的指令写法并非完全独创,甚至有人表示自己此前就这样写过 Prompt。
- 第二,这套理论不容易验证,因为 Prompt 可能随模型变化而失效,不像算法那样稳定。
- 第三,实验规模有限,尚不足以证明这是一条普适规律。
也有评论者把机器学习当前的研究生态,与心理学界十几年前的学术危机相提并论。相关看法认为,当年心理学领域曾因部分研究者统计学基础薄弱、滥用统计工具,出现大量难以复现的结论,行业信任受到冲击;而机器学习现在同样高度依赖实证实验,却相对轻视严格的理论支撑。
在这些评论看来,行业内部长期追逐新方法,也伴随着过度调参、围绕 benchmark 刷分的风气。某些所谓创新算法,与成熟基线相比几乎没有明显的实际落地价值,却仍可能凭借细微指标提升被包装为研究成果。按这一说法,问题的根源都与学科高速扩张后、研究规范尚未完全清晰有关。
支持者的看法与作者回应
支持者的立场则不同。
他们认为,科学研究并不是以方法复杂程度论高下。只要假设清楚、实验充分、结果稳定且可复现,简单方法同样可能是好研究。对这篇论文来说,Prompt 只是表层形式,更重要的是它试图解释模式坍缩背后的来源,即偏好数据中的“典型性偏差”。在支持者看来,这一判断本身比“改了什么提示词”更值得关注。

论文的一位作者也在评论区回应称,这项工作表面上看起来简单,实际包含了复杂处理流程。按其说法,整套研究覆盖了问题溯源、新理论归因、数学推导以及多维度定量实验,并不是浅层调 Prompt 的“灌水工作”。
评论区中还有不少人提到思维链 CoT。最早的 CoT 提示,本质上也只是一句 Prompt——“Let’s think step by step.” 但后续大量推理方法都能追溯到这一做法。支持者据此认为,提示词工程早已不只是“写提示词”,它也正在成为研究模型行为的一种方法。
文章援引的讨论还提到,过去十几年,机器学习研究几乎都围绕训练阶段展开,而现在,一些推理阶段的使用技巧也开始进入机器学习研究的核心区域。按照这一判断,未来几年,这类不新增训练代码、不增加模型参数,却能改变大模型能力边界的论文,可能会越来越多。
研究团队信息
这项工作由美国东北大学 Weiyan Shi 团队联合斯坦福 Manning 实验室、西弗吉尼亚大学完成,Jiayi Zhang、Simon Yu、Derek Chong 为并列第一作者。

公开信息显示,Jiayi Zhang 本科毕业于密歇根大学,获得计算机科学、数学与语言学三个学士学位,随后前往美国东北大学攻读计算机科学硕士。她的另一篇论文《Analyzing the Role of Semantic Representations in the Era of Large Language Models》已被 NAACL 2024 接收,研究方向同样围绕语义表示与大语言模型。
Simon Yu 目前在美国东北大学攻读博士,研究重点是大语言模型中的对齐与强化学习机制。本科和硕士阶段均就读于爱丁堡大学,也发表过多篇顶会论文。除本文所涉工作外,他的论文《Unsafer in Many Turns: Benchmarking and Defending Multi-Turn Safety Risks in Tool-Using Agents》也被 ICML 2026 接收。
Derek Chong 硕士毕业于斯坦福大学,目前是斯坦福大学人工智能实验室研究员,研究方向集中在大语言模型 NLP。他曾有 3 年创始人创业经历,也曾在 Ello 担任应用科学家,参与产业端 AI 落地研发。
参考来源
本文提到的外部链接包括 Reddit 讨论帖,以及 Jiayi Zhang、Simon Yu、Derek Chong 的公开主页或资料页。原文注明,本文来自微信公众号“量子位”,作者为“关注前沿科技”。

