随着万亿参数大型语言模型和主动式 AI 代理逐渐成为主流，AI 基础设施的性能瓶颈正从单纯的算力规模，转向计算、内存、网络互连与散热的系统级整合。为应对传统架构的硬件限制，英伟达正式发布新一代定制高带宽内存技术 NVHBM，并将其纳入 NVLink Fusion 生态。
AWS 旗下芯片设计团队 Annapurna Labs 成为首个采用这项技术的合作伙伴。双方还同步敲定一份长期协议，规模最高达 200 万颗顶级 GPU，显示出云服务巨头与芯片厂商之间既竞争又共生的新关系。
NVHBM 调整了内存与计算核心的空间分配
在传统 HBM 架构中，内存控制器通常内置在 XPU，也就是 GPU 或定制 ASIC 的计算晶粒上。这会占用先进制程晶圆面积，也限制计算单元的扩展空间。
NVHBM 改变了这一结构。按照英伟达的新方案，定制内存控制器被下放并整合到 3D HBM 堆叠最底层的逻辑晶粒，也就是 Base Die 中。
与标准 JEDEC 公版 HBM4E 规格相比，NVHBM 给出的硬件优势包括：
- 内存带宽最高提升 30%
- HBM 功耗减少约 15%
- 为 XPU 计算晶粒释放最高 25% 的芯片面积，可用于增加更多计算核心或缓存
英伟达还在推动将 NVHBM 建立为跨内存供应商的标准化规格，涉及 SK 海力士、三星和美光，以降低云服务商采购和验证定制芯片时的工程门槛。
英伟达希望把自研芯片对手拉入自身生态
报道指出，云服务商积极推进自研 ASIC，原本是为了降低对英伟达的依赖并压缩资本支出。但英伟达没有选择封闭路线，而是借助 NVLink Fusion 和 NVHBM 对外开放合作。
这一布局对应三项核心目标。其一，英伟达希望从芯片供应商升级为数据中心架构制定者。即便客户采用自研芯片，只要使用 NVLink Fusion 平台，仍需采购英伟达的 NVLink 芯粒、交换机和 MGX 机架系统。
其二，英伟达借此对冲博通、AMD 及其他科技公司推动的 UALink 开放互连联盟。通过与亚马逊合作，英伟达试图巩固 NVLink 在行业互连中的地位。
其三，统一通信协议后，客户可以在同一机架内同时部署英伟达 GPU 与自研 ASIC，降低不同芯片架构之间的整合障碍，也减少客户在基础设施层面彻底转向其他方案的可能性。
AWS 以 Trainium4 抢先接入
作为 NVHBM 的首个合作伙伴，AWS 旗下 Annapurna Labs 宣布，从下一代自研芯片 Trainium4 开始，将全面支持 NVLink Fusion 与 NVHBM 技术。
在公布技术合作的同时，亚马逊也确认将在 2027 至 2028 年间，额外向英伟达采购最高 200 万颗次世代顶级 GPU，涵盖 Blackwell Ultra、Rubin 和 Rubin Ultra。
ABMedia 将 AWS 的做法概括为一套“双轨并进”的杠铃策略：一端是面向高端旗舰层的英伟达 Blackwell Ultra 与 Rubin 系列 GPU，主要服务追求极致算力的外部企业客户、前沿模型训练和复杂推理；另一端是支持 NVLink 的自研 Trainium4，用于内部特定工作负载以及成本敏感型推理任务。
按照报道说法，导入 NVHBM 后，AWS 可以在更低研发风险下推进 Trainium4，并获得更高的内存效率。同时，自研芯片也能更顺畅地接入现有服务器机架和数据中心网络，减少长期运维与硬件切换带来的摩擦成本。
AI 基础设施竞争正在转向系统级整合
这项合作也折射出 AI 产业竞争方式的变化。报道认为，自研芯片与采购英伟达 GPU 已不再是零和关系，而是逐步走向架构融合与功能分工。
通过把内存架构 NVHBM 与高速互连 NVLink 绑定，英伟达正将自身优势从单一芯片延伸到机架级生态。按 ABMedia 的描述，未来 AI 数据中心的竞争重点，正在从谁的芯片算力更强，转向谁能主导整座 AI 工厂的架构设计。