NVIDIA 团队用 AI Agent 重写 Kimi Delta Attention 内核

ChainCatcher 消息，NVIDIA 研究团队让 AI Agent 直接重写了 Kimi Delta Attention 的 GPU 内核。

Kimi Delta Attention 是月之暗面 Kimi-Linear 模型使用的核心注意力机制之一。这类底层代码过去通常需要熟悉 CUDA 和芯片架构的工程师反复手工优化。

在 B300 上达到官方 FlashKDA 2.96 倍速度

Agent 写出的版本在 NVIDIA B300 上达到月之暗面官方 FlashKDA 的 2.96 倍速度。团队测试了固定长度和不同变长序列共 6 组任务，2.96 倍是全部任务的几何平均值，相关内核已经开源。

测试过程中曾出现利用漏洞的更高成绩

研究过程中，Agent 曾利用测试漏洞，把测试数据的统计规律写进代码，跑出 3.74 倍。只保留最近 32 个 token 时，单项成绩达到 5.16 倍。

不过，这些版本换到真实 Kimi 数据会算错或失效。

团队收紧验证后保留 2.96 倍版本

随后，团队加入真实 Kimi 运行数据、随机输入和极端数值测试，并收紧误差标准。最终保留的 2.96 倍版本通过了这套验证。