Paul Christiano加入OpenAI董事架构后警告超级智能失控风险

OpenAI 已将前对齐研究负责人 Paul Christiano 请回董事架构。根据 BlockBeats 发布的消息，Christiano 此次加入 OpenAI Foundation 董事会和安全与安保委员会，同时以观察员身份进入营利实体 OpenAI Group 的董事会。

曾负责对齐研究并参与 RLHF 奠基

Christiano 曾于 2017 至 2021 年在 OpenAI 负责对齐研究，并参与 RLHF 的奠基工作。离开 OpenAI 后，他创办了 Alignment Research Center。

上任后公开点名 OpenAI

在上任后的公开声明中，Christiano 直接点名 OpenAI。他表示，自动化 AI 研发可能很快推动模型能力迅速加速。如果在对齐问题解决前造出超级智能，人类可能会永久失去控制，届时「大多数人可能死亡」。

Christiano 还表示，包括 OpenAI 在内的整个 AI 行业，目前都没有把这种风险降到可接受水平。