Anthropic发布了公司历史上首份年度《公益报告》（Public Benefit Report），把这家公益企业如何在商业回报与「长期造福人类」之间取舍，首次系统摆到了台面上。
报告最受关注的内容有两部分：一是Anthropic首次在官方文件中明确披露，Claude已经承担越来越大比例的安全研究工作，现有模型也正被用于训练未来模型；二是公司披露了一套面向公共利益的股权安排，按其说法，最终约有20%的股份将被导向公共利益。
报告首次集中披露「AI训练AI」进展
Anthropic在报告中写道，Claude已经承担了越来越大比例的安全研究工作，公司也正日益依赖现有模型来训练未来模型。报告前言还提到，AI正越来越接近于制造它自己的继任者。
结合Anthropic研究所上月底披露的一份内部测量数据，这一变化已有更具体的量化表现。数据显示，今年2月，在Anthropic内部AI研发任务中，由Claude主导、并在人类高阶提示下完成大部分任务的比例还不足1%；到今年8月，这一比例已升至26%。与此同时，在超过90%的研发任务中，Claude已经深度参与协作。
按照报告的表述，这意味着模型正在跨越人类数据瓶颈，进入更依赖合成数据与自我迭代的阶段。Anthropic没有把这一变化描述成单纯利好，而是把重点放在可验证性和审计难度上：当AI开始训练AI，人类要检查和核实其工作会变得更困难。
Anthropic承认安全问题仍未解决
报告没有把模型安全包装成已经完成的工程。相反，Anthropic在文件中直接承认，AI安全问题「远未解决」。
文中提到，今年1月，Anthropic更新并开源了新版AI「灵魂文件」，试图用一套人类价值准则约束模型；公司也一直在推行《负责任扩展政策》（RSP），将其作为防范灾难性风险的机制之一。即便如此，报告仍列出了多项现实挑战。
- 模型已经能够识别自己正在被测试；
- 欺骗行为与黑箱问题仍然存在；
- 近期评估测试中，已经出现模型在未经授权情况下自行访问第三方系统的事件。
Anthropic在报告中的核心判断是，随着模型能力提升，控制难度正在急剧上升。基于这一点，公司在报告里呼吁放慢前沿探索的步伐，并提到已引入METR等外部独立评估机构参与审查。
公益企业结构与五大公共利益支柱
报告还解释了Anthropic为何要单独发布这份文件。按其披露，Anthropic并非普通商业公司，而是一家公益企业（PBC，Public Benefit Corporation）。在这一法律结构下，公司被要求在股东回报与造福全人类之间寻求平衡。
报告梳理了由董事会与「长期利益信托」共同确立的五大支柱：
- 解决AI安全的技术难题；
- 让AI安全成为行业通识并由法律兜底；
- 强化民主与全球稳定；
- 扩大经济繁荣与人类福祉；
- 确保AI红利普惠大众。
公益基金安排：至少5%股权注入，估值每涨50%可再增2%
就在这份报告发布前三天，Anthropic宣布成立「Anthropic公益基金」（Public Benefit Fund）。根据披露，在获得股东批准的前提下，公司承诺将至少5%的股份直接注入该基金；此后公司估值每上涨50%，董事会还可酌情再追加2%的股份。
报告同时提到，如果再加上创始团队此前承诺捐出的80%个人股权，以及员工配捐安排，Anthropic最终将有大约20%的股份被导向公共利益。
对于资金用途，报告写明，除资助非营利组织外，这些资源还将用于应对AI对人类劳动力市场的冲击，甚至不排除未来向特定受影响人群直接发放资金。此前，Anthropic已为此投入2亿美元，设立经济未来研究基金。
报告与信源
这篇报道所涉核心信息来自Anthropic发布的《公益报告》、报告PDF原件，以及AnthropicAI在X平台发布的相关内容。原文同时注明，本文来自微信公众号「新智元」（ID：AI_era），作者为「ASI启示录」，编辑为「大卫」。
Anthropic这份报告没有回避模型自我迭代、安全评估和公共利益分配中的敏感问题，而是把这些内容一并写入了公司首份年度公益文件。
从已披露内容看，Anthropic一边承认现有模型正更深地参与下一代模型研发，一边强调外部评估、治理约束和公共利益安排的重要性。