伯克利开源 LEANN 向量索引，6000 万段落索引降至 6 GB

Techub News 消息，UC Berkeley Sky Computing Lab 发布开源向量索引 LEANN。其核心创新是不再大量存储向量嵌入，而是在查询时实时计算。

按披露数据，一个包含 6000 万段落的维基百科语料索引，使用 LEANN 后可从 201 GB 压缩至 6 GB。相关研究论文在 MLSys 2026 会议上获得最佳论文奖。

基于 FAISS 构建，保留精简图结构

LEANN 基于 FAISS 构建，做法是保留精简的图结构，同时丢弃完整向量，以此降低存储需求。

NQ 基准测试中的存储与耗时对比

在 NQ 基准测试中，使用 Qwen3-4B 模型并运行在 RTX 4090 上，LEANN 与 HNSW 都达到 25.5% 的下游准确率。

不过，两者在存储占用上差距明显。LEANN 仅占用 4 GB 存储空间，HNSW 则需要 188 GB。代价是检索时间增加：在 NQ 任务上，LEANN 的检索耗时为 2.48 秒，HNSW 为 0.05 秒。

目标是让语义搜索和 RAG 在个人设备运行

该索引旨在让语义搜索和 RAG（检索增强生成）技术能够在个人笔记本电脑上运行。

GitHub 仓库显示，40 万条聊天消息的索引可从 1.8 GB 缩小至 64 MB，3.8 万条浏览器记录的索引可从 130 MB 缩小至 6.4 MB。

消息援引 MarkTechPost 披露上述信息。