Techub News 援引 CryptoBriefing 报道,开源项目 Mesh LLM 正在把闲置的英伟达 GPU 整合成点对点网络,用于大语言模型分布式推理,并提供 OpenAI 兼容 API,开发者可以直接把它替换掉云端模型。
Skippy 管道与性能
项目获得 Jack Dorsey 支持。其核心机制是「Skippy」管道:先把大模型分区,再分派到多个节点上运行。局域网环境下,处理 2350 亿参数模型的速度约为每秒 16 token。
激励与生态集成
激励层 Meshtrain 负责给贡献者发放 MeshCoin 奖励。Block 旗下的 Buzz 应用已经接入这套网络,数据不会经过外部数据中心。
本文最初由 Bit.Fan 发布。 欲了解更多加密货币新闻与市场洞察,请访问 www.bit.fan.

