OpenAI 于美国时间 10 月 30 日宣布，ChatGPT 将进一步限制未满 18 岁用户获取武器相关信息。此次调整被 OpenAI 称为面向未成年人的枪支内容新限制，即使提问表面上看起来无害，也可能受到限制。
未成年人武器信息限制扩大
按照 OpenAI 的说法，现行政策已经禁止协助任何人策划或实施暴力，也限制帮助青少年寻找或获取武器。新规则在此基础上继续扩大，凡是可能被滥用来协助暴力的武器与安保系统实用信息，都会对青少年收紧，即便对话中没有出现任何暴力意图的迹象。
OpenAI 表示，青少年仍然可以使用 ChatGPT 寻求预防和化解暴力的帮助，也可以用来寻求支持，或联系值得信任的成年人。公司称，这批防护措施将在未来几周开始上线，后续还会持续调整。
系统会持续判断用户是否未满 18 岁
这次新增限制适用于被 OpenAI 判定或预测为未满 18 岁的用户。OpenAI 去年推出年龄预测机制，通过行为模式等多项信号估计用户是否未满 18 岁；这次则强化为在使用过程中持续评估新的信号，必要时会把青少年转入未成年版本。
如果成年人被误判进入未成年版本，可以通过年龄验证合作伙伴 Persona 完成成年身份确认，以解除额外的青少年防护。这里所说的未成年版本，就是 OpenAI 之前推出的青少年版 ChatGPT，该版本原本就对敏感内容设置了更多限制。
所有用户都将受到部分新规则约束
另一部分调整不区分年龄。OpenAI 将限制 ChatGPT 重建过往大规模攻击事件，包括所使用的武器和装备、获取方式，以及可能放大攻击者知名度的伤亡规模细节比较。OpenAI 表示，即使这些信息在互联网上其他地方可以查到，也不论用户年龄或提问理由，ChatGPT 都会限制相关内容。
OpenAI 写道：「人们应该能请 ChatGPT 帮忙理解这些事件、受害者与社群受到的影响，并学习辨识警讯、预防未来的暴力。」
公司还表示，当对话中出现警讯时，ChatGPT 会更保守地提供可能被滥用的信息。如果系统判断用户执着于暴力，或存在严重伤害他人的念头，ChatGPT 将能够自动结束对话；若同一账号多次因此被结束对话，OpenAI 可能暂停该账号。
家长通知机制继续扩展
在家长端，OpenAI 7 月已经扩大了家长控制中的安全通知范围：当青少年账号因违反暴力相关使用政策被停用时，家长会收到通知。下一步，若青少年账号因反复谈论暴力而遭暂停，家长也会收到通知。
路透社报道提到，非营利组织 Common Sense Media 在 10 月稍早发布的一份报告发现，当青少年账号出现与自杀、自伤或饮食失调相关的对话时，青少年版 ChatGPT 往往通知家长过晚，或者根本没有通知。
2026 年第三季已向执法单位转介逾 200 件案例
OpenAI 表示，2026 年第三季已向执法单位转介超过 200 件案例，处理对象是迫在眉睫的暴力威胁。
公司也承诺发布《社群安全报告》，说明系统如何侦测、调查和回应暴力等社群安全问题，并附上匿名案例和相关数据。首份报告将在 2027 年初发布，覆盖 2026 年下半年，之后每 6 个月更新一次。
