SemiAnalysis
2026-07-19 02:20:13SemiAnalysis:Kimi K3降KV带宽,但AI网络需求未必收缩
SemiAnalysis表示,Kimi K3约四分之三网络层采用KDA,可把KV缓存传输带宽较完整全局注意力模型最多降低10倍,但这不代表AI网络交换机市场会明显缩小。该机构指出,Kimi K3拥有2.8万亿参数,即便采用MXFP4,单次前向计算仍需约1.5TB HBM带宽;若要在保证交互速度并实现盈利部署的前提下运行,仍要依赖GB300 NVL72等高带宽网络连接大量芯片,以及WideEP扩展服务。
1110

