Fly Language Model接入果蝇全脑连接组，测试未见性能优势

Techub News 消息，研究人员发布 Fly Language Model（FLM），将完整的雄性果蝇中枢神经系统连接组接入一个冻结的 LiquidAI LFM2.5-1.2B-Instruct 大语言模型主干。

这套连接组包含 166,700 个节点和 2558 万条有向边。模型只训练了 27.8 万个参数的读出层，占主干参数约 0.0238%。

在 32 个日常对话数据集上的测试显示，接入果蝇连接组的模型将每个词元的负对数似然降低了 0.0222 纳特。不过，一个无连接图的直接输入控制模型在全部三次实验种子中的表现都更好，优势为 0.000488 纳特。

研究结果显示，连接组确实参与了计算，但没有带来特异性增益。与此同时，其状态记忆按每个词元衰减 0.6，未能提供长期记忆。

开发者明确表示，他们不宣称这是首个基于连接组的语言模型。该模型的特点在于使用了完整的连接组图，并采用冻结主干设计。

目前，模型代码已在 MIT 许可下开源，可在本地 Python 3.12 环境运行。消息来自 MarkTechPost。