Kimi K3
2026-08-08 06:24:422.78 万亿参数 Kimi K3 压进 8GB 内存:开发者开源纯 CPU 推理方案
开发者开源 kimi-k3-in-c,让 2.78 万亿参数的 Kimi K3 在 8GB 内存设备上仅靠 CPU 完成推理。项目仅 176KB,纯 C99 编写,不依赖 GPU 与 CUDA,利用 MoE 每层仅激活 16 个专家的特性,将大部分权重放在 NVMe 硬盘按需读取。当前生成一个 token 约需 32.7 秒,开发者称仅为实验探索,暂无生产价值。
1520



