OpenAI Astra 采用循环推理架构，字节跳动已先探索

OpenAI 即将发布的 Astra 模型采用了循环推理架构（recurrent depth），也称为 looped transformer。与传统的 Transformer 不同，后者每生成一个 Token 必须逐层计算，而 Astra 允许同一段信息反复经过同一组层，经过多轮计算后再输出。

字节跳动与 Seed 的先行探索

这一技术路线并非 OpenAI 首创。字节跳动去年已公开做过类似研究。Seed 团队发布的 Ouro 模型正是一种 Looped Language Model，通过循环运行一组 Transformer 层，将更多计算置于模型内部，从而让较小模型通过增加计算量接近更大模型的效果，无需生成更长的思维链。

安全隐忧与限制措施

然而，这种架构也带来了安全问题。部分推理发生在内部隐藏状态，人类无法看到完整的文字记录，更难通过思维链检查模型是否违规。为此，OpenAI 限制了 Astra 使用 recurrent depth 的程度，使其仍保留可读的思维链，并计划加入额外的 CoT 监控机制。