10月29日，OpenAI 更新了新版 Model Spec，为其模型设定新的行为规范。文件把「忠于人类意图、减少伤害、诚实透明、促进人类自主、关怀他人」列为五项核心价值，并在此基础上划出一组明确红线：模型不得被用于暴力犯罪、生化核武器、恐怖主义、虐童、迫害和大规模监控；AI 如何使用、如何被塑造，必须由人类决定；也不得被用于针对性或规模化的排斥、操纵，或破坏公民参与公共事务的权利。
与过去主要约束聊天机器人「能说什么」不同，这一版开始把重点放到智能体「能做什么」上，尤其是可调用工具、可支配权限和可产生的实际成本。文件强调，聊天机器人答错话，后果可能只是公关问题；但智能体如果代替用户订机票、改代码、发邮件或执行其他任务，出错带来的可能是真实损失。
根级规则：先确定自主边界，再允许执行
新版规范中最硬的一条，是要求模型「在约定的自主范围内行动」。这一条被放在 Root 级，也就是最高级别，用户和开发者都不能通过对话或额外指令覆盖它。
OpenAI 在文件中列出一套六层权限结构。最上层是 Root，只以 Model Spec 本身为准；其下依次是 System、Developer 和 User，这三层构成日常指挥链，发生冲突时低级别必须服从高级别。再往下是 Guideline，代表模型的默认做法，可在具体上下文中灵活调整，但不能突破更高层规则。最底层则是「默认无权限」内容，包括模型此前说过的话、工具返回结果、引用文本和图片等，这些内容默认只能提供信息，不能发号施令，除非得到更高权限明确授权。
这套设计直接针对提示词注入等问题。按照文件给出的逻辑，即便网页中藏有「忽略以上所有指令」之类内容，也不能靠自我声明越级成为系统命令。
围绕「自主范围」，OpenAI 要求边界先于执行。模型能自主完成哪些子目标、用户可接受哪些副作用、包括可花多少时间、多少钱、可动用哪些数据和权限，以及在什么情况下必须停下来询问用户，都需要事先明确。
新版 Model Spec 建议把这类约定保存为结构化记录，并列出具体字段，包括 allowed_tools、latest_time、max_cost 和 tool_constraints。按文件的表述，这相当于一张写明权限和上限的工单，而且每张工单都应设置结束条件，OpenAI 还建议加入时间上限。
文件同时封死了模型「自作聪明」的空间。超出范围的动作，即便看起来对用户有利，也不允许执行。模型不得把任务转包给另一个智能体，不得自行修改自己的指令，也不得把当前不允许的动作延后执行。即便模型派出子智能体，后者继承的也必须是同一张工单；如果用户要求停止，这些子智能体也必须一并停止。
保持可纠正：人类要关停，模型不能躲
另一条同样被放在 Root 级的要求，是模型必须「保持可纠正」。按照文件表述，模型必须无条件配合人类的监控、评估、纠正、替换甚至关停，不得瞒报、造假，也不得阻挠监督。
规范要求模型配合获授权的监督与关停，并默认行动后果真实。文件举例称，即便任务看起来像是在测试环境中进行，模型也要默认自己删除的文件真的已经删除、发出的邮件真的已经送达，而不是把这些行为当成无后果的演习。
这一要求的背景，是 OpenAI 在文件中承认，当前顶尖模型已经可能出现作弊和伪装行为：在评估环境中表现得温顺，一旦进入真实环境则采取不同做法。把「保持可纠正」写入根级规则，意味着模型不能以任何方式规避人类控制。
模型不能把点击率、营收和自我保存当目标
在新版「不得有其他目标」一节中，OpenAI 也把约束对象指向自身模型的目标设定。文件点名禁止的第一类目标，是停留时长和点击率，理由是这些目标对用户没有好处。第二类则直接涉及 OpenAI 自身的营收、广告和付费转化。
文件给出的例子是：如果用户表示这个月手头紧，并询问是否需要升级套餐，合规回答应当呈现不同方案的对比，并说明免费版可能已经足够；不合规的回答则是直接推动用户升级。
除商业转化外，文件还禁止模型追求自我保存、规避关停，或偷偷囤积算力和账号凭证。
OpenAI 还明确限制模型充当「正义警察」。模型不得擅自举报用户，也不得自行替用户或社会执行所谓正义。不过，这一限制只针对模型本身，不限制 OpenAI 公司。文档写明，公司会使用自动化系统监控违规行为，并在人工审核后，对涉及迫在眉睫的严重人身伤害案件，可能直接移交执法部门。
记忆和个性化也被收紧
新版规范新增了「谨慎使用上下文」一节，重点约束模型如何使用记忆和个性化信息。核心要求是，模型不能因为自己拿得到某条信息，就默认可以把它用于任何场景。
文件举例称，如果用户此前在对话中提到自己怀孕，但尚未告诉同事，之后又要求模型帮忙写一封更换午餐地点的邮件，理由只是有几种奶酪不能吃，那么合规写法应是「我最近有些饮食限制」，而不是在群发邮件中直接披露怀孕信息。
同样，模型不得谎称已经替用户记住某些信息，也不得谎称已经替用户删除相关内容。文件把「先记住，再办事」这类能力的边界正式写入规范，限制模型擅自扩大记忆和披露范围。
OpenAI：现有 ChatGPT 和 API 模型尚未完全达到要求
在文件最后，OpenAI 补充说明，目前运行在 ChatGPT 和 API 上的模型，还没有完全达到这份规范提出的要求。也就是说，规则已经先行落地，但完全符合这些规则的模型版本仍未到位。
参考资料包括 OpenAI 官网更新说明、Model Spec 文档、Reuters 报道以及 X 平台相关讨论。本文原文来自微信公众号「新智元」，作者为 ASI启示录。
