Tether通过QVAC Fabric平台推出新的AI框架,把BitNet LoRA训练带到智能手机、GPU和其他消费级设备上。按其披露,这套系统可让十亿级参数模型运行在手机和GPU上,目标是压低训练成本,并把AI工具的使用门槛拉低到日常硬件。
覆盖AMD、Intel、Apple及移动芯片
这次更新的核心是跨平台BitNet LoRA微调支持。Tether称,框架可以适配不同硬件与操作系统,支持AMD、Intel、Apple的GPU,也覆盖移动芯片组,并通过Vulkan和Metal后端实现兼容。按Tether说法,这是BitNet LoRA首次在如此广泛的设备范围内运行,用户可直接在常见硬件上训练模型。
显存占用最高下降77.8%
系统把BitNet与LoRA两种方法结合使用,以减少内存和计算需求。BitNet负责把模型权重压缩为更简化的数值形式,LoRA则控制需要训练的参数规模。两者叠加后,硬件要求明显下降。Tether给出的基准测试显示,与可比系统相比,显存占用最高可减少77.8%;在移动设备上,GPU推理速度则比CPU快2倍到11倍。
三星S25和iPhone 16完成实测
Tether还展示了手机端微调结果。测试显示,1.25亿参数模型可在三星S25等设备上于几分钟内完成训练;更大的模型也已在边缘设备上完成适配,Tether称,最高可在iPhone 16上���功微调130亿参数模型。该框架还支持Adreno、Mali和Apple Bionic等移动GPU,使AI开发不再局限于专用硬件。
Tether首席执行官Paolo Ardoino表示,AI开发长期依赖昂贵基础设施,而这套框架把更多能力转移到本地设备。Tether还称,这一系统可减少对中心化平台的依赖,用户可以直接在自己的设备上训练模型并处理数据。

