Jensen Huang Challenges Google TPU and Amazon Trainium to Open Inference Benchmark

Jensen Huang Challenges Google TPU and Amazon Trainium to Open Inference Benchmark

N
News Editor 01
2026-07-07 18:52:50
NVIDIA CEO Jensen Huang publicly challenged Google TPU and Amazon Trainium to join open inference benchmarks, saying neither has responded. He stressed NVIDIA’s advantage in performance-to-TCO, ecosystem scale, and annual architecture delivery.

英伟达CEO黄仁勋近日再次将AI基础设施竞争推向台前。他公开向谷歌TPU和亚马逊Trainium发出挑战,要求两家参与开放式推理基准测试,并表示截至目前尚未收到回应。黄仁勋在表态中强调,英伟达的平台在性能与总体拥有成本(TCO)比方面具备领先优势,同时质疑竞争对手尚未拿出可验证的公开结果。

公开基准测试成为争论焦点

根据原始消息,黄仁勋提到了由SemiAnalysis分析师Dylan Patel提出的InferenceMAX推理基准,并指出该测试是公开可用的。他借此直接点名谷歌TPU和亚马逊Trainium,认为如果竞争对手确实拥有更优的成本表现,就应当在开放环境中进行验证。对于亚马逊Trainium长期宣称的40%成本优势,黄仁勋明确表示,希望对方通过公开测试加以证明;对于谷歌TPU的成本竞争力,他则表示“从第一性原理来看难以理解”。

这一表态延续了英伟达近年来在AI芯片市场上的一贯策略,即不仅强调单一芯片性能,更突出完整软件栈、部署效率和可验证的现实应用表现。在AI算力竞争从训练逐步转向推理的阶段,公开基准测试的重要性正在上升,因为企业用户越来越关注模型上线后的吞吐量、延迟、功耗以及长期成本,而不仅是峰值算力指标。

黄仁勋:硬件之外,优化能力才决定上限

黄仁勋在讲话中用“F1赛车”和“凯迪拉克轿车”作比,形容GPU与CPU在高性能AI任务中的差异。他的核心观点是,很多平台都可以完成计算任务,但当负载逼近极限、系统复杂度快速上升时,真正的差距来自工程优化能力与软硬件协同。

他表示,英伟达通常会投入大规模工程师团队帮助AI实验室优化系统栈,而在优化完成后,客户模型往往能实现2至3倍速度提升,即便是50%的常见提升,也足以在现有Hopper和Blackwell集群上直接转化为更高收入。换言之,英伟达试图向市场传递的信息是:评估AI基础设施时,不能只看芯片采购价格,还要看部署后的利用率、软件成熟度和持续优化能力。

CUDA生态仍是英伟达最大护城河

面对云服务巨头自研芯片可能削弱CUDA影响力的担忧,黄仁勋强调,英伟达不仅拥有芯片本身,还深度参与了大量底层软件技术建设,包括对Triton等第三方框架的支持。他指出,Triton后端融合了大量英伟达技术,而CUDA生态目前已覆盖各大云服务商中的数亿级GPU装机基础

从产业逻辑看,这一论点的重点在于“默认选择”。对于AI初创公司或新进入者而言,最常见的决策标准不是理论最优,而是是否拥有最广泛的开发者支持、最成熟的工具链、最容易招聘到相关工程人才,以及能否快速部署并扩展。黄仁勋据此强调,如果一家AI创业公司要选择架构,往往会优先考虑装机规模最大、采用最广、生态最丰富的平台,而这正是英伟达的优势所在。

年度架构更新承诺强化供应预期

除性能和生态外,黄仁勋还特别提到英伟达的产品迭代节奏。他表示,英伟达是少数能够承诺每年交付新一代架构的公司,并给出了清晰路线:Vera Rubin将在今年推出,Vera Rubin Ultra将在明年推出,随后是Feynman,以及再下一代尚未公布的架构。这种明确的路线图,实际上是在向企业客户和资本市场释放供应稳定性与长期可预期性信号。

对于大型AI服务商而言,芯片并非一次性采购品,而是关系到未来数年资本开支、模型部署周期与数据中心规划的核心变量。因此,稳定的迭代能力和按时交付预期,往往和单次跑分一样重要。黄仁勋借此反问市场:是否能够把整个业务押注在一家ASIC团队每年都按时交付的能力上。这显然是在影射部分定制芯片路线的交付风险。

对市场与加密板块有何启示

尽管这场争论发生在AI芯片领域,但其外溢影响也可能传导至加密市场,尤其是与AI叙事相关的代币板块。原始素材提到,市场情绪变化可能通过恐惧与贪婪指数反映出来,AI驱动技术话题升温时,投资者往往会重新关注AI算力、去中心化计算和数据基础设施相关项目。

不过,从投资层面看,这类消息对加密资产的影响更多体现在情绪和主题轮动,而非直接基本面改善。黄仁勋此次发声的实质,是再次强化英伟达在AI推理赛道中的领导者形象,并把竞争焦点从“是否有替代品”转向“谁能拿出公开、可验证的结果”。若未来谷歌或亚马逊对此作出回应,甚至公布更多公开测试数据,市场对AI基础设施竞争格局的判断可能进一步升温,并间接带动AI概念相关资产波动。

总体而言,黄仁勋此次公开“点名”TPU与Trainium,不只是一次高调喊话,更是围绕推理性能、成本验证、生态壁垒和交付能力展开的全面竞争宣示。在AI推理需求迅速增长的背景下,谁能以公开、透明且可复现的数据证明自身优势,谁就更有可能赢得下一轮企业级算力采购的话语权。

This article was originally published by Bit.Fan. For more cryptocurrency news and market insights, visit www.bit.fan.
300

Disclaimer:

The market information, project data, and third-party content displayed on this platform are for industry information sharing only and do not constitute any form of investment advice or return commitment.

Cryptocurrency trading carries high risks. Users should fully assess their risk tolerance and make independent decisions. All profits, losses, and legal responsibilities are borne by the users themselves.