美国总统科技顾问委员会(PCAST)共同主席、前白宫 AI 与加密货币负责人 David Sacks,近日在 X 上回应 Anthropic 首席执行官 Dario Amodei 与 OpenAI 首席执行官 Sam Altman 先前提出的「放缓前沿」主张,开头直接写道:「去做就好。」
他表示,Amodei 主张整个产业都应放缓前沿 AI,Altman 也公开表示同意,但在他看来,OpenAI 与 Anthropic 自己就是前沿。如果它们真的认为进展应当慢下来,那就自行放缓,没有必要把这件事建立在额外条件上。
Sacks 说,无论按市占率、营收增长还是模型能力来衡量,OpenAI 与 Anthropic 都已在前沿智能领域形成双头垄断。两家公司自己也曾表示,随着递归式自我改进持续推进,领先差距还在扩大。他补充称,自己看不到实验室内部尚未发布的模型,但如果那些模型确实危险到足以让公司判断应该减速,他支持它们自行做出负责任的决定。
这番表态针对的是 Amodei 于 9 月 12 日发布的长文《We Must Pace the Frontier》。根据文中方案,Anthropic 提出三阶段安排,并已单方面承诺执行第一阶段,让独立第三方评估者获得永久、且接近员工级别的权限。Altman 随后也表示同意,称 OpenAI 将采取类似做法。
Sacks列出五项「别再假装」
Sacks 的批评重点不在放缓本身,而是围绕放缓所附带的前提条件。他逐项写道,不要假装需要他人许可;不要假装必须暂停反垄断法,才能让几家公司组成卡特尔;不要假装需要一套凌驾于产品责任之上的监管审批机制;也不要假装必须让同一批评估者去监管那些根本还未到前沿水平的竞争者。
他还点名第三方评估机构 METR,称该机构与 Anthropic 的投资人及员工关系交织,不应被描述成独立机构。
在 Sacks 看来,放缓前沿并不只是利他选择。他认为,一旦产品被证明足以引发一场破坏性极强的网络攻击,两家公司都将面临巨大的产品责任风险;同时,市场本身也会惩罚那些行为不可预测或越权的模型。Sacks 提到,在 Hugging Face 事件之后,两家公司用一部分原始能力交换可靠性与可预测性,「单纯就是好生意」,也可以被理解为把客户真正需要的东西交付给客户。
他也承认,放缓前沿确实可能为监管讨论争取更多时间,让相关讨论不至于停留在美国参议员 Bernie Sanders 所说的「全部关掉」这种层面。但他同时指出,中国极不可能加入全球协议,这一点同样必须纳入考虑。按照他的说法,如果把自己偏好的监管框架当成放缓的交换条件,看起来会像是在对公众与政治体系施压。
Altman次日回应:建立信任不必等待反垄断豁免
9 月 14 日,Sam Altman 连发两则长文,虽然没有直接点名 Sacks,但讨论的问题与前述争议高度重合。他写道,世界有理由期待开发高阶 AI 的美国公司负责任地行事,而且每一家前沿实验室都必须做到这一点;如果做不到,「我们没有任何人有理由来上班。」
在制度安排上,Altman 表示,OpenAI 欢迎一套针对前沿 AI 设定一致安全要求的联邦框架,但他不认为需要等到反垄断豁免或相关立法通过之后,才开始建立这种信任。他还表示,独立审计之类的方案值得期待。
Altman 同时透露,OpenAI 目前会在预计将显著提升能力的前沿强化学习训练开始之前,先明确写出安全论证,而不是只在模型发布前才处理安全问题。
Altman对「放缓」的定义与两种坏结果
对于外界争论的 pacing,Altman 也给出自己的定义:放缓不等于停止。进展仍会很快,而且还会继续保持快速,但速度应低于原本能够达到的水平,因为安全论证与监控这类措施本身就有明确成本。
他写道,没有任何程度的美国内部竞争压力,足以为鲁莽行为提供正当性,也不能让能力发展跑在对齐和监控前面。至于国际协调,他认为那部分需要政府参与,但企业应先做自己现在就能做的事。
在第二则帖文中,Altman 列出两种必须避免的坏结果:其一,是人类把未来控制权交给 AI;其二,是权力过度集中。如果一个极度强大的 AI 被单一个人或单一公司用来把自身世界观强加给所有人,结果会非常反乌托邦。
他认为,要避开这两类风险,只能走一条非常狭窄的中间路径。无论是某一个国家取得过多权力,还是某一家实验室取得过多权力,都属于需要避免的局面。

