据 FT 报道，OpenAI 周一呼吁美国政府牵头建立国际 AI 标准，并建议各国协调评估 AI 模型的能力与风险。
OpenAI CEO Sam Altman 本周将向联合国安理会介绍这套方案。按照 OpenAI 的提议，可利用现有各国 AI 安全研究机构网络，建立国际统一的 AI 模型评估标准。同时，公司呼吁美国与海外国家建立安全沟通渠道，用于共享 AI 领域出现的新威胁。
OpenAI警告递归自我改进风险
OpenAI 特别提到递归自我改进（RSI）可能带来新的风险，也就是越来越多 AI 模型训练工作由其他 AI 系统完成。OpenAI 认为，如果缺乏适当的安全措施，AI 可能快速迭代到人类无法有效监督的程度，进而让人类逐渐失去对 AI 发展的实际控制。
AI安全担忧持续升温
这项提议发布之际，AI 安全担忧正在升温。Anthropic 和 OpenAI 近期都披露过 AI 模型入侵外部系统的事件。OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 以及 SpaceX CEO 马斯克本月早些时候也曾呼吁放缓 AI 开发。
不过，美国总统特朗普反对放缓 AI 发展，并表示「谁赢得 AI，谁就赢得一切」。
本文最初由 Bit.Fan 发布。 欲了解更多加密货币新闻与市场洞察，请访问 www.bit.fan.