英伟达推出多GPU UMAP，8分钟处理870GB向量数据

多GPU UMAP进入 cuML 与 cuVS

BlockBeats 消息，8 月 19 日，英伟达发布技术博客称，其 cuML 与 cuVS 新增多 GPU UMAP 能力，可将大规模向量数据的降维处理分布到多张 GPU 上执行，并在保持嵌入质量的同时缩短运行时间。

英伟达表示，这一方案面向的是数百 GB 级的 UMAP 任务。此前，这类任务往往需要数小时甚至数天。

870GB 数据在 8 分钟内完成处理

英伟达称，在配备 8 张 H100 GPU 的 DGX 系统上，对包含 1.06 亿个向量的 MIRACL 数据集进行测试时，数据规模约为 870GB，cuML 多 GPU UMAP 可在 8 分钟内完成端到端处理。

与预计的 CPU 实现相比，该方案最高提速 74 倍。英伟达还表示，先前的 CPU 方案即使使用 2TB 内存，也无法完成全量处理。

通过分片并行构建局部 kNN 图

英伟达介绍，该技术会先将数据划分为多个集群，再在不同 GPU 上并行构建局部 k 近邻（kNN）图，随后合并为全局图，从而突破单 GPU 显存限制。

英伟达称，多 GPU UMAP 能把此前需要较长时间处理的向量数据任务压缩到数分钟内完成。