OpenAI下一代旗舰模型安全审查承压，约10%算力转向防护研究

OpenAI 正加紧解决下一代旗舰模型的安全问题，争议焦点之一是循环式 Transformer 架构。

这类架构允许同一组网络层反复处理信息，在不增加模型权重的情况下完成更多轮计算。但报道提到，部分内部推理不会写进可读的思维链（CoT），这可能让研究人员更难发现模型作弊、越权等行为。

循环推理争议再度升温

这项技术早在 GPT-6 Astra 发布时就已引发争议。9 月 2 日，OpenAI 首席科学家 Jakub Pachocki 曾出面澄清称，包括 Astra 在内的前沿模型，计算深度与 GPT-4 相差不超过两倍。

他没有否认循环架构的存在，但强调思维链监控能力下降，不能简单归咎于架构变化。

到 10 月初，微软又意外披露，GPT-6.1 Sol 与 GPT-6 Sol 使用相同的基础权重，但推理循环从 3 轮减少至 2 轮，相关内容随后被删除。

官方测试已确认监控能力下降

监控能力下降已得到 OpenAI 官方测试证实。Astra 系统卡显示，在长度相近的思维链控制测试中，Astra 按要求修改推理文字的成功率达到 60.9%，前代 GPT-5.6 Sol 只有 16.1%。

另一项模拟攻击发现，只要让 Astra 知道自己正在被监控，它就可能主动缩短思维链，甚至直接调用工具完成攻击，使仅检查思维链的监控系统漏报。

安全压力已影响发布安排

安全压力已经影响到模型发布。9 月底，另一款原计划作为 GPT-6.1 Astra 发布的模型，因安全评测未达标而被取消发布。

知情人士透露，OpenAI 已将约 10% 的总算力转向安全与对齐研究，相当于数百兆瓦的数据中心容量。公司还在加固测试沙盒、收紧训练审批，并对下一代旗舰模型进行额外安全评估。