《纽约时报》科技专栏作家 Kevin Roose 在新书《The AGI Chronicles》中写道,OpenAI 共同创办人 Greg Brockman 与 Ilya Sutskever 曾在 2017 年提出一项内部称为「国家计划」的构想,设想让美国、中国与俄罗斯等国政府竞标 OpenAI 未来 AGI 技术的权利。
这部分内容已于 9 月 29 日以书摘形式刊登在《大西洋月刊》。OpenAI 对相关说法作出否认,称公司并未考虑把 AGI 卖给中国或俄罗斯。
构想从国际联盟转向募资方案
根据 The Next Web 对书摘内容的整理,这一构想出现在埃隆·马斯克逐渐淡出、OpenAI 急需新资金之时。它最初是一个围绕管理 AGI 风险、共享 AGI 好处的国际联盟设想,但到了 Brockman 与 Sutskever 在当年冬天向员工简报时,已经演变成内部所谓的「国家计划」募资策略。
书中援引两名了解两人想法的人士称,Brockman 与 Sutskever 预期,各国政府最终会从开发 AGI 的公司手中夺走这项技术,因此认为既然 OpenAI 当时需要资金,不如先行出售。
Amodei 反对:计划会加剧军备竞赛
时任 OpenAI 研究副总裁的 Dario Amodei 在 2017 年 12 月写信给 Brockman、Sutskever 等人表达反对。根据信件内容,他写道:「我认为这个计划会加剧而非减少军备竞赛,可能导致人权暴行……也会损害 OpenAI 的道德正当性。」
书中称,这项计划最终在 OpenAI 取得微软投资后被搁置。OpenAI 发言人对《大西洋月刊》表示,公司「曾短暂考虑把 OpenAI 变成一项国际合作事业」,但「并未考虑把 AGI 卖给中国或俄罗斯」。
书中称这场争议是 Amodei 后续离职原因之一
Roose 写道,这场争议是 Amodei 后来离开 OpenAI 的原因之一。书中还提到其他分歧,包括 GPT-3 的开放对象。根据书中引述两名知情人士的说法,Sam Altman 曾在 2020 年提议让说唱歌手 Kanye West 抢先使用 GPT-3 私人测试版,但被当时的政策主管 Jack Clark 挡下;双方对微软 10 亿美元投资案中的安全条款也存在分歧。
OpenAI 于 2020 年 12 月 29 日宣布 Amodei 离职。此后,他与妹妹 Daniela Amodei 及其他前 OpenAI 研究人员共同创立 Anthropic。
匿名说法涉及 Altman、Brockman 与 OpenAI 内部分歧
书中还引述知情人士称,Amodei 兄妹至今仍非常厌恶 Altman 与 Brockman。按照书中的匿名说法,Dario Amodei 曾在内部以「邪恶」形容 Altman 与 OpenAI。ABMedia 在原文中指出,这部分属于书中引述的匿名说法。

