OpenAI首席科学家：避免误导性报道引发模型“不可监控化”竞赛

ChainCatcher 消息，OpenAI 首席科学家 Jakub Pachocki 表示，希望避免因误导性报道引发模型“不可监控化”的竞赛。

Pachocki 称，包括 Astra 在内的当前前沿模型，其计算图深度与 GPT-4 相差不超过两倍。OpenAI 自首批推理模型以来一直致力于保留并利用链式思维监控，认为该技术有助于观察模型对齐能力如何从训练分布泛化。

他同时指出，链式思维监控较为脆弱，且趋势并不乐观，但仍可通过研究加以强化，并已成为 OpenAI 当前研究计划的核心目标。

此前，The Information 报道称，Astra 使用 recurrent depth，让同一组 Transformer 层反复计算。部分推理因此可以发生在模型内部，不必全部写成思维链，也引发了模型会不会越来越难监控的担忧。