NVIDIA扩展Megatron Core，新增Muon等高级优化器支持

NVIDIA AI近日宣布扩展其Megatron Core框架，使其支持包括Muon在内的多种高级优化器，同时纳入研究型优化器MOP与REKLS。这一更新面向大规模模型训练场景，意在为更高效的模型优化提供更多工具选择。

瞄准大模型训练效率

根据披露的信息，此次框架更新主要服务于超大参数模型的训练需求，相关表述提及可覆盖Kimi K2以及Qwen3 30B这一量级的模型。NVIDIA指出，若要实现高效训练，仅依赖标准的数据并行方法已不够，行业需要引入更多训练技术与优化手段，以应对模型规模持续扩大带来的算力与效率挑战。

新增多类优化器支持

在此次扩展中，除了市场关注度较高的Muon外，Megatron Core还增加了对MOP和REKLS等研究型优化器的支持。这意味着开发者在构建和训练大型模型时，可根据任务需求尝试不同优化路径，从而在训练稳定性、收敛效率或资源利用方面探索更优方案。

尚未公布性能指标

值得注意的是，NVIDIA本次公告并未提供具体的性能测试结果，也未披露更细致的实现方式。因此，新增优化器支持在实际训练中的加速幅度、适用场景以及部署复杂度，仍有待后续更多技术文档或实测数据验证。就目前信息来看，此次更新释放出的核心信号是：围绕大模型训练栈的底层优化，仍是AI基础设施竞争的重要方向。