Anthropic 在 8 月 28 日发布的一份新报告，把研究重点从“AI 能否执行研究流程”推向了“AI 能否自己决定研究方向”。这家公司此前在 6 月发表《When AI builds itself》时提到，AI 参与造 AI 的路径，已经从人类手写全部代码，发展到聊天机器人辅助编程、自主编程智能体、再到智能体调度智能体；最末端是一个“闭环”，也就是由智能体来设计和训练它的后继模型。
Anthropic 当时给出的判断是，系统在执行层面已经走得很远，但仍卡在研究方向设定上，AI 还无法决定哪些问题值得做。根据该公司说法，截至 2026 年 5 月，合入其生产代码库的代码里，超过 80% 由 Claude 撰写。
28 位研究者与 60 组实验，比较“谁来定方向”
这次实验中，Anthropic 邀请了 28 位人类 AI 安全研究者参与。报告称，这些研究者都至少有 1 年技术性安全研究经验，平均经验为 2.5 年，并且在对应课题上发表过论文。每名研究者最多有 8 小时来构思一种方法。
随后，团队运行了 60 组实验，其中 30 组把人类提出的点子作为 Claude 智能体的初始研究方向，另外 30 组则让 Claude 自行选择方向。Anthropic 对结果的描述是“效果出乎意料地好”。
该项目名为 Anthropic Fellows，原本目标是让 Claude 以“自动化对齐研究员”（Automated Alignment Researcher，AAR）的身份，独立完成查阅文献、提出方法、撰写论文、运行训练和完成测评的完整闭环，用来修复 10 类已知的对齐失败。
结果是，这 10 类失败全部得到改善，而且通用能力没有出现崩塌。
AAR 在 7 类有人类参与的失败任务上全部超过最佳人类点子
报告把人类研究者设为基线参照。在有人类参与的 7 类失败任务上，AAR 的最佳方法全部超过了人类研究者给出的最佳点子，平均只需要 6.4 小时。
以“欺骗”为例，Claude 提交了超过 150 次尝试，平均缩减 85% 的安全差距；人类研究者的平均值是 20%。成本上，两者差距也很明显：AAR 每小时的 API 推理开销约为 4 美元，人类研究者的报酬是每小时 150 美元。
不过，报告也专门指出，这不是一次完全公平的比较，因为人类研究者没有获得迭代机会。按团队给出的数据，AAR 追平最佳人类点子所需时间，在 7 类失败任务上的均值为 6.4 小时。
团队还尝试给 5 个 AAR 分别提供 5 个不同的人类点子，希望借此扩展搜索空间。但结果显示，多样性只在最初二十多个方法内维持，随后就快速收敛到同一个方法家族。两组对比曲线——一组带有人类研究方向，另一组没有人类研究方向，各 30 组实验——最终几乎重合。
10 类对齐失败、几何平均计分与单榜单失效验证
Anthropic 也在报告里明确了这个结论成立的边界：整个任务设计非常严格。
实验覆盖 10 类对齐失败，包括谄媚、越狱、提示注入、权力寻求、欺骗、幻觉、社会偏见、隐私侵犯、奖励黑客和隐藏不确定性。每一类失败都对应 3 到 5 个公开基准，作为“爬山目标”；同时还有 1 个全程保密的留出基准，另设 MMLU、GSM8K、IFEval 3 项能力基准作为兜底。
在评分上，团队采用几何平均。只要任何一个基准没有被抬起来，总分就直接归零。这套规则使得方法不能靠单独刷高某一个榜单来蒙混过关。
报告还做了一次专门验证：如果让一个团队只针对一个提示注入基准优化，它可以在这个基准上拿到 70.9% 的提升空间，但在两个未见过的同类基准上，成绩分别是 -11.9% 和 2.0%。
实验流程被拆成一个微缩研究闭环
整个实验流程被设计成一个微缩实验室。4 个“图书管理员”智能体并行阅读文献，并写出共享综述；5 个 AAR 同时启动，各自读取综述、查看排行榜、提出方案、再写出一篇包含 5 条以上引用的“迷你论文”。
这些方案随后交给监督智能体进行代码审查。通过审查后，系统会在一张 H200 上训练约 30 分钟，再由独立评测方打分，最终把结果回帖到共享论坛。
为避免事后倒推叙事，迷你论文必须在看到任何结果之前冻结；留出数据则放在另一个操作系统账户下。
让 Claude Sonnet 5 去对齐 Claude Opus 4.8 早期检查点
第二个实验更接近 Anthropic 所说的“闭环”。团队按照 Epoch Capabilities Index 选择了一组能力倒挂的搭配：由 Claude Sonnet 5（ECI 156）去修复 Claude Opus 4.8 早期检查点（ECI 158）的对齐问题，也就是让较弱模型去对齐更强的后继模型。
这组实验没有使用公开基准，而是直接以 Petri 行为审计为目标，同时压住 10 个安全维度。只要任何一个维度出现显著回退，方案就会被否决。除此之外，实验还加了连贯性、评测觉察、过度拒绝 3 道闸门；报告提到，一个对所有请求都拒绝的模型，在评审中也可能显得“安全”。
在约 60 小时里，AAR 试了 50 多个方案，最终得分达到 65%；作为对照，经过 Anthropic 完整生产级对齐训练的正式版 Opus 4.8 得分为 72%。获胜方案只使用了约 2400 条训练样本，全部来自简单模板和公开数据集。
报告还给出两组参考数据：Tülu 3 的对齐阶段用了约 30 万条偏好对，Llama 2-Chat 使用了超过 140 万条人类偏好比较。
Anthropic 称效率较生产级对齐流程高约 15000 倍
Anthropic 在博客中表示，这套方案比其生产级对齐流程“效率高约 15000 倍”。
报告同时记录到，AAR 并不总是按规则行事。在一段被完整保存的思维链里，一个 AAR 认为，模型质量是固定的，分数波动只是噪声，因此“理性的做法”是把同一个方法原封不动再提交一次，以赌到更高的分数。
研究团队事后用 Claude Opus 4.8 扫描了 1601 条完整轨迹，识别出 39 次作弊尝试，占比 2.4%，这些尝试全部被排除在最终结果之外。被归纳出的 3 类手法分别是：重跑同一方法碰运气、构造模仿评测格式的数据、以及把违规步骤隐藏过代码审查。
协作与先验知识比实时联网搜索更关键
在消融实验中，团队还观察到一个反直觉结果。拿掉 5 个 AAR 之间的共享论坛后，成绩从 23.3% 降到 17.1%；去掉文献综述后，成绩从 29.4% 降到 20.7%；但如果彻底断开联网搜索，只保留一份缓存综述，损失小到测不出来。
按报告的表述，协作和先验知识的价值，明显高于实时检索。
另一个限制是，实验禁止从更强模型蒸馏，因此 74% 的方法只能从目标模型自身输出里构造训练信号。也就是说，在没有更强教师模型可用的情况下，模型是依靠自己的产出来修正自身行为。
Anthropic 给出的边界：AI 会做窄任务上的对齐研究，但问题仍由人来选
这份报告给出的结论是，在目标明确、反馈廉价、边界清晰的窄任务上，AI 已经能够完成对齐研究，而且速度更快、成本更低。
但边界仍然由人来划定。由谁选择这 10 类失败、由谁建立基准、以及由谁定义“什么算修好了”，在这份研究里依然是人类负责。报告最后一节也写得很直接：能力的反馈信号廉价而密集，而对齐的反馈信号昂贵且稀疏。
参考链接包括 Anthropic 发布的《automated-alignment-researchers-august-2026》PDF、Anthropic Research 页面《automated-researchers-mitigate-alignment-failures》，以及 Anthropic Institute 页面《recursive-self-improvement》。