FMS上公布HBF首个标准规格
SK海力士(SK hynix)与SanDisk在美国加州圣塔克拉拉举行的2026 FMS Conference上,公布了HBF(High Bandwidth Flash,高频宽快闪内存)的初步规格与发展路线图。HBF的首版规格最高容量可达512GB,频宽依等级约落在0.4 TB/s至3.0 TB/s,HBF与处理器之间则采用UCIe(Universal Chiplet Interconnect Express)作为互连技术。
SanDisk展示的测试案例显示,在特定AI推论情境下,以4颗GPU搭配4TB HBF,与8颗GPU搭配192GB HBM相比,每秒生成Token数几乎相同,意味GPU使用效率可达后者约2倍,同时降低整体成本。相关内容由《Forbes》报道。
HBF想补上HBM与NAND之间的空缺
目前AI GPU的重要内存之一是HBM。它透过垂直堆叠多层DRAM,提供极高的资料传输频宽,已成为NVIDIA、AMD等AI加速器的重要元件。
但随着AI工作负载从训练逐渐延伸至大规模推论,模型权重、RAG资料、KV Cache、Agent State与Metadata等数据量快速增加,只靠昂贵且容量有限的HBM,并不一定是所有场景里最具成本效益的方案。
HBF的思路,是把类似概念套用到NAND Flash。SanDisk CTO Alper Ilkbahar表示,HBF将NAND晶片以类似HBM堆叠与连接DRAM的方式进行封装,藉此打造高容量、高频宽的非挥发性储存方案。它不一定完全取代HBM,而是可以依工作负载与HBM混合使用,甚至在部分场景单独使用。
SK海力士重划AI内存阶层
SK海力士也在这次FMS Conference上提出新的AI内存与储存阶层。除了目前位于G1层级的HBM,公司新增G0.5、G1.5与G2.5三个中间层级,希望针对不同AI工作负载,在效能、容量与成本之间取得更细致的平衡。
其中G0.5采用3D堆叠DRAM,定位高于HBM,目标是在维持DRAM级容量的同时,提供接近SRAM的频宽。G1.5就是HBF,SK海力士规划容量约1TB、频宽达Tb/s级别;G2.5则是透过CXL Pooling建立的共享内存,容量可扩展至数TB。
SK海力士强调,这套架构的核心目的,是最大化xPU效能与服务品质(QoS),同时改善TPS/MW(每兆瓦吞吐量)以及Token/$(每美元Token产出)。
推论场景下,KV Cache成为新瓶颈
SK海力士EVP Kim Chunsung指出,AI推论需要处理的资料大致可分成两类。第一类是模型、RAG资料与用户资料等持久性资产;第二类则是推论执行过程中产生的动态状态,包括KV Cache、AI Agent状态与Metadata。
随着Context Window扩大、Agent工作时间拉长,以及企业开始部署更多AI推论服务,如何储存大量KV Cache,正在成为新的硬体瓶颈。SanDisk因此也将「Persistent KV Cache」视为新型内存阶层的重要应用,希望让部分原本必须占用昂贵HBM容量的资料,转移至容量更大、成本更低的HBF。
首版规格、后续路线图与NAND制程进展
HBF Consortium已在此次FMS Conference上公布首版HBF规格。现阶段规划包含8-high与16-high两种NAND Die堆叠配置,容量最高可达512GB;频宽则分成Grade 1至Grade 3三个级别,约从0.4 TB/s一路提升至3.0 TB/s。
另一项重要设计,是HBF采用UCIe作为与处理器连接的界面。UCIe是近年半导体产业积极推动的Chiplet互连标准,如果HBF最终形成产业生态,未来有机会让CPU、GPU、AI Accelerator与高频宽Flash透过标准化界面整合,而非完全依赖单一厂商的专有设计。
SanDisk也同步推进BiCS10,作为HBF铺路。该公司此次展示218层BiCS8企业级SSD,其中Compute eSSD采用TLC NAND,最高容量32TB;Storage eSSD则使用容量密度更高的QLC NAND,最高可达256TB。下一代BiCS10则进一步增加至332层,TLC NAND单颗容量达1Tb,QLC NAND则达2Tb。
不过,HBF距离真正进入AI资料中心仍有一段路。依SK海力士公布的时间表,目前在2026 FMS Conference上公布的是HBF 0.7标准,完整HBF Specification预计于2027年初发布,首批HBF样品则预计要等到2028年初,之后才会逐步进入完整量产阶段。
因此短期来看,HBF并非直接威胁目前高速成长的HBM市场,更像是为AI推论建立新的内存阶层。

