谷歌供应链基础设施高级总监Nikhil Cherian透露,为应对AI服务器内存瓶颈,谷歌正开发软硬件解决方案,并拆解退役服务器回收DDR4组件,设计适配器连接上一代内存至新一代服务器。Cherian指出AI行业已从计算受限转向内存受限,高性能内存占AI服务器物料清单成本的75%。高盛预计第三季度PC DRAM上涨18%至23%,服务器DRAM上涨13%至18%。谷歌今年推出的两种TPU ASIC优化内存设计,有望将内存需求降至六分之一。
谷歌供应链基础设施高级总监Nikhil Cherian近日透露,为应对人工智能服务器面临的内存瓶颈,谷歌正在同时推进软件与硬件解决方案,并着手建立内部回收供应链。具体做法包括拆解退役服务器,回收其中的DDR4内存组件,并设计专用硬件适配器,将上一代DDR4模块连接到新一代人工智能服务器上。此外,谷歌还进口退役服务器,拆除其DDR4模块进行回收利用。
Cherian表示,人工智能行业已迅速从计算受限转向内存受限,高性能内存约占给定人工智能服务器物料清单成本的75%。这一趋势推动内存价格持续走高。高盛报告显示,第三季度内存价格将继续增长,预计个人电脑DRAM价格上涨18%至23%,服务器DRAM价格上涨13%至18%。Trendforce的数据显示,8月现货市场上DDR4 8GB和DDR5 8GB价格分别上涨至142美元和133美元。
在硬件层面,谷歌今年推出的两种TPU ASIC对内存进行了优化设计,称有望将内存需求降低至原来的六分之一。其中TPU8i芯片采用专用分层内存设计,依靠高速DDR5内存架构执行主机级任务,每颗芯片搭载288GB的HBM3e高带宽内存。
免责声明:
本平台展示的市场信息、项目资料与第三方内容仅用于行业信息分享,不构成任何形式的投资建议或收益承诺。
加密资产交易具有较高风险,用户应充分评估自身风险承受能力并独立作出决策,相关盈亏及法律责任由用户自行承担。