CPU Emerges as the New AI Bottleneck as Google and Intel Expand Data Center Push

CPU Emerges as the New AI Bottleneck as Google and Intel Expand Data Center Push

N
News Editor 01
2026-07-07 19:13:08
As AI workloads shift toward agent-based applications, CPUs are becoming a critical bottleneck. Google and Intel have signed a multi-year Xeon deployment deal, while server CPU prices jump and supply tightens, signaling a broader shift from GPU-only competition to system-level AI infrastructure.

过去几年,AI算力竞争几乎都围绕GPU展开,市场普遍相信“谁掌握更多GPU,谁就更接近下一代人工智能基础设施的核心”。但进入2026年后,这一逻辑正在发生明显变化。随着大模型应用从单纯训练、推理,进一步转向更复杂的Agent工作流,长期被视为辅助角色的CPU,正在成为限制AI系统效率扩张的关键瓶颈。

最新信号来自谷歌与英特尔。根据披露信息,双方已签署一项多年期合作协议,将在全球AI数据中心更广泛部署英特尔Xeon处理器。英特尔方面强调,AI并非只在加速卡上运行,而是跨越整个系统架构,CPU与IPU在性能、效率和灵活性方面都扮演核心角色。这意味着,AI基础设施的竞争重点,正在从“单点算力”转向“系统级协同”。

CPU为何突然成为AI链条中的短板

在传统聊天机器人架构中,GPU主要负责模型推理,CPU更多承担调度、数据预处理等任务,因此GPU往往决定了整体延迟表现。但Agent时代的工作负载已经不同。一个Agent不仅要生成文本,还要完成API调用、数据库读写、代码执行、文件I/O以及多步骤任务编排。这些任务大多需要CPU与主机系统介入,GPU负责“生成”,CPU负责“执行”。

素材援引的一项研究指出,在Agent型工作负载中,CPU侧工具调用处理可能占到总延迟的50%至90.6%。这意味着,即便GPU已准备好处理下一批任务,系统整体也可能因为CPU尚未完成响应而被迫等待。换句话说,GPU不再是唯一瓶颈,AI系统真正的上限开始越来越多地取决于CPU的调度、访存和协同能力。

另一个加剧CPU压力的重要因素,是大模型上下文窗口持续扩大。到2025年,部分主流模型已支持超过100万Token的上下文。用于加速推理的KV Cache会随着Token规模线性增长,在100万Token场景下,缓存体量可达到约200GB,已明显超出单张H100 GPU约80GB显存的容量。因此,部分KV Cache不得不被转移到CPU内存中,这又进一步抬高了CPU在内存容量、带宽以及CPU-GPU互联速度方面的重要性。

供应链紧张:CPU市场出现“安静的危机”

相比GPU交期被广泛关注,CPU市场的吃紧更像是一场“安静的供应危机”。报道显示,2025年第四季度,服务器CPU平均售价上涨约30%,这在相对成熟的CPU市场中并不常见。AMD数据中心业务负责人透露,过去三个季度CPU需求增长速度前所未有,交付周期已从8周拉长至10周以上,部分型号甚至延迟长达6个月

造成这一局面的重要原因之一,是先进制程产能被更高利润的GPU订单挤占。台积电3nm产线持续紧张,原本可供CPU使用的晶圆资源正被越来越多地分配给GPU。这也带来了一个颇具讽刺意味的现象:一些AI实验室已经拿到了足够多的GPU,却难以采购到足够的高端CPU去“驱动”这些GPU。

此外,英特尔还获得了来自埃隆·马斯克项目的额外推动。资料显示,马斯克已委托英特尔为其位于得州的Terafab项目设计和制造定制芯片,用于为xAI、SpaceX和特斯拉构建统一计算基础。这显示出,在AI算力之外,大型科技项目正越来越重视底层系统架构与供应链稳定性。

三大厂商策略分化:英特尔守阵地,AMD抢份额,英伟达重协同

面对CPU需求的重新爆发,英特尔、AMD和英伟达正在走出三条不同路径。英特尔仍是服务器CPU市场的重要玩家。根据素材援引数据,2025年第四季度,英特尔在服务器CPU市场仍占据60%份额,AMD为24.3%,英伟达为6.2%。英特尔当前一方面继续依靠Xeon与谷歌等超大规模客户深化合作,另一方面则联合SambaNova推进Xeon加RDU的组合方案,试图强化其在AI基础设施中的系统级存在感。

AMD则是这一轮变化中的直接受益者。其2025年第四季度数据中心收入达到54亿美元,同比增长39%;第五代EPYC Turin贡献了超过一半的服务器CPU收入,服务器CPU收入市场份额首次超过40%。AMD管理层明确将增长归因于Agent应用扩张,认为新一代AI工作负载正把更多任务重新推回传统CPU。

相比之下,英伟达的思路并不是追求更多CPU核心,而是强调CPU与GPU之间的高效率配合。其Grace CPU核心数低于英特尔和AMD部分旗舰产品,但通过NVLink C2C约1.8TB/s的互联带宽,强化CPU对GPU内存的直接访问能力,从而提升KV Cache管理和系统调度效率。对于AI集群来说,这种高协同架构有助于避免昂贵GPU资源因CPU跟不上而空转。

对科技与加密市场意味着什么

从产业趋势看,CPU重新获得关注,反映出AI基础设施建设正在进入更成熟的阶段。资本市场此前高度追逐GPU、HBM和AI训练链条,而如今系统级性能、服务器整机效率、互联带宽与数据中心调度能力的重要性同步上升。美国银行预测,到2030年全球CPU市场规模可能从当前的270亿美元增至600亿美元,而新增需求几乎都与AI相关。

对加密市场而言,这一变化虽然不直接对应某一种代币价格,但会对AI概念币、DePIN、算力网络和链上基础设施叙事产生影响。过去市场更偏好“GPU即算力”的单一逻辑,而随着CPU、内存、互联和调度的重要性提升,投资者可能开始重新评估所谓“分布式AI算力”项目的真实交付能力。仅有GPU资源储备,未必能构成可执行的Agent基础设施;具备完整系统调度能力的平台,反而可能获得更高估值溢价。

整体来看,谷歌与英特尔的合作、AMD的份额提升,以及英伟达持续推进CPU-GPU协同,均说明AI硬件竞赛已从单纯堆砌加速卡,转向比拼全链路效率的新阶段。未来谁能率先解决CPU、GPU、内存与网络之间的系统瓶颈,谁就更有机会在下一轮AI基础设施升级中占据主动。

This article was originally published by Bit.Fan. For more cryptocurrency news and market insights, visit www.bit.fan.
300

Disclaimer:

The market information, project data, and third-party content displayed on this platform are for industry information sharing only and do not constitute any form of investment advice or return commitment.

Cryptocurrency trading carries high risks. Users should fully assess their risk tolerance and make independent decisions. All profits, losses, and legal responsibilities are borne by the users themselves.