腾讯混元Hy4开源：7700亿总参数、100万上下文，自改进闭环初成

腾讯开源混元Hy4 preview。新模型采用MoE架构，总参数770B，单次激活49B，上下文窗口扩至100万 tokens。

相比Hy3：规模翻两倍多，上下文约4倍

对比Hy3的295B总参数、21B激活参数和256K上下文，这一代规模翻了两倍多，长上下文扩展到约4倍。腾讯没有只强调通用跑分，而是专门强化代码、办公、游戏和科研等真实任务。

三个示例：建3D网站、做游戏、查财务

比如模型可以从零搭建Three.js 3D网站，在Unity里制作可玩的游戏Demo，也能一次处理72份财务文件，检查重复报销、额度超限和预算异常。Hy4还与WorkBuddy、CodeBuddy等腾讯产品一起训练和迭代。

Hy4已参与自身研发

更特别的是，Hy4已开始参与自己的研发。腾讯称，它会帮助优化训练方法、数据策略、评测体系和底层算子，自己提出方案、运行实验，再根据结果继续调整。实验产生的代码、日志和反馈又会进入下一轮研发，已经形成初步的自我改进循环。

接入产品与开放平台

Hy4 preview已接入WorkBuddy、CodeBuddy、元宝、ima、腾讯云TokenHub和OpenRouter。腾讯此前在财报中就预告Hy4会比Hy3更大，并把真实产品反馈作为模型训练的重要来源。