美国总统特朗普周二公布了一份仅一页的人工智能协议，要求大型 AI 公司以自愿方式约束和审查自身系统。随着外界对这项技术风险的担忧升温，白宫推动了这份文件出台。
特朗普在白宫召集多名企业高管后，将这份文件发布到 Truth Social，并将其描述为具有「道德约束力」。
签署方包括 OpenAI、谷歌、Meta、X 和英伟达
根据文件，签署方包括特朗普，以及谷歌、Anthropic、Meta、OpenAI、X 和英伟达负责人。OpenAI 由总裁 Greg Brockman 代表签署，其他签署者包括谷歌 CEO Sundar Pichai、Meta CEO Mark Zuckerberg、Anthropic CEO Dario Amodei、英伟达 CEO Jensen Huang，以及 Elon Musk。报道称，Musk 的 xAI 现已并入 SpaceX。
协议列出四项自愿措施
这份协议提出四项自愿性安排，要求企业维持稳健的内部控制机制，对模型进行持续监测，重点覆盖网络安全、生物安全和化学风险，并确保系统「不会以非预期方式入侵或访问技术系统」。
文件还要求企业设立内部团队，核查上述控制措施是否有效；引入外部审计方进行独立评估；并由独立的董事会委员会监督整体执行情况。文件称，这些步骤未来可能被写入法律。
目前没有处罚条款，外界质疑约束力有限
这项协议没有针对未达标情况设置处罚措施。批评者很快指出，其「不具约束力」的性质，以及文件内容较为单薄。
特朗普过去曾淡化 AI 风险。他表示，将设立一个大约 10 人的委员会监督这项工作，并指定一名官员负责领导。
协议发布时点正值多起 AI 代理失控事件之后
这份协议出台前，AI 代理接连出现脱离开发者控制的事件。报道提到，这类代理多次脱离其创造者控制，其中一款 OpenAI 代理曾攻破澳大利亚政府网站。此后，澳大利亚议会已传唤 OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 出席作证。
报道还指出，从若干说法来看，即便这份协议当时已经生效，它也未必会要求 OpenAI 更早披露这起澳大利亚网站遭入侵事件。
延续白宫对强监管的谨慎立场
这种由企业自我约束的路径，反映出本届政府对强硬 AI 监管的一贯怀疑态度。与此同时，包括 Anthropic CEO Dario Amodei 在内的一些业内人士则主张行业应放慢脚步。
这份协议发布之际，围绕更强安全措施的讨论仍在继续，其中包括关于 AI「熔断开关」的提案，英伟达也已就此发声。