返回混合专家模型

混合专家模型

英伟达
2026-07-06 03:29:56

英伟达 GB300 NVL72 在 AA-AgentPerf 测试中实现每兆瓦 6.14 万智能体并发

英伟达披露,GB300 NVL72 在 Artificial Analysis 推出的 AA-AgentPerf 基准中,可在每兆瓦电力下承载 61400 个并发 AI 智能体,约为 H200 的 20 倍;按单块 GPU 计算,服务密度约为后者的 40 倍。该基准首次以“每兆瓦并发智能体数”为核心指标,改用真实编程智能体轨迹、长上下文和工具调用来评估推理系统,显示 AI 推理评测正从 token 吞吐转向系统级能效与智能体承载能力。

190
英伟达 GB300 NVL72 在 AA-AgentPerf 测试中实现每兆瓦 6.14 万智能体并发