OCP

AI推论
2026-07-23 09:42:12

AI 推论带动存储分层重组:HBF、SSD POD 与 SRAM 各自补位

TrendForce 最新研究显示,AI 产业重心正从训练转向推论,内存架构也随之改写。HBM 在训练阶段凭借高带宽占据核心位置,但面对推论阶段 KV 快取带来的容量压力已难以独撑。HBF、SSD POD 与 SRAM 因而分别从大容量、中间存储层与片上高速缓存三个方向补位,形成更细化的推论内存阶层。NVIDIA、Google 及多家 AI ASIC 新创近期布局,也反映这场架构调整正在加速。

840
AI 推论带动存储分层重组:HBF、SSD POD 与 SRAM 各自补位
SanDisk
2026-07-20 00:16:10

SanDisk与SK海力士推进HBF,试图用闪存缓解大模型内存压力

IEEE Spectrum近期报道,SanDisk与SK海力士正推动一种名为高带宽闪存(HBF)的方案,试图把HBM使用的堆叠与先进封装思路引入NAND Flash。按SanDisk披露的目标,首代HBF单堆栈容量最高可达512GB、读取带宽最高1.6TB/s,后续路线图指向2TB/s和3.2TB/s。两家公司已于2月25日在开放计算项目OCP下启动HBF标准化工作。该方案瞄准大模型推理场景中的读密集型数据,而非替代HBM。

1150
SanDisk与SK海力士推进HBF,试图用闪存缓解大模型内存压力